日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > windows >内容正文

windows

一篇可供参考的 K8S 落地实践经验

發布時間:2023/12/29 windows 39 coder
生活随笔 收集整理的這篇文章主要介紹了 一篇可供参考的 K8S 落地实践经验 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

前言

k8s 即 Kubernetes,是一個開源的容器編排引擎,用來對容器化應用進行自動化部署、 擴縮和管理
本篇文章將分享 k8s v1.18.8 的安裝,以及其面板,監控,部署服務,使用Ingress-Ningx進行負載均衡的實踐
因為公司用的這個老版本,并且后面要負責搭建,擔心無法復刻,趁此周末,實踐一二,確認可行,遂與君分享。

虛擬機準備

  • 宿主機:Windows10
  • 虛擬機工具:Hyper-V 10.0.19041.1
  • 虛擬機 Linux 系統:CentOS 8.5
  • 已安裝軟件:docker (v2.21.0)及 docker compose(24.0.6)
  • Hyper-V虛擬機一覽

  • IP 及主機名
192.168.123.100 master
192.168.123.101 worker01
192.168.123.102 worker02

CentOS8.5 設置固定 IP

  • 設置IP及網關:vi /etc/sysconfig/network-scripts/ifcfg-eth0
TYPE=Ethernet
PROXY_METHOD=none
BROWSER_ONLY=no
DEFROUTE=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_FAILURE_FATAL=no
NAME=eth0
DEVICE=eth0
ONBOOT=yes
PREFIX=24
IPV6_PRIVACY=no
# 設置IP及網關
BOOTPROTO=static
IPADDR=192.168.123.100
GATEWAY=192.168.123.1

CentOS8.5 聯網檢查

  • 配置好網絡后先測試 curl 是否可以正常訪問網絡 curl ``http://mirrors.aliyun.com,如果提示: curl: (6) Could not resolve host: ``mirrors.aliyun.com ,則需要檢查dns設置
  • cat /etc/resolv.conf 默認應該是網關的地址,也可以自行修改為其他公共dns
nameserver 192.168.123.1

CentOS8.5 設置主機名

  • 查看主機信息:hostnamectl,通過導入虛擬機創建的主機信息除了mac地址其他基本都一樣
  • 設置主機名:hostnamectl set-hostname 主機名
# 查看hostname
hostnamectl --static
#設置 hostname 對應機器設置
# 192.168.123.100
hostnamectl set-hostname master
# 192.168.123.101
hostnamectl set-hostname worker01
# 192.168.123.102
hostnamectl set-hostname worker02

確保每個節點上 MAC 地址的唯一性

可以在外部使用 PowerShell 查看 Hyper-V 虛擬機的地址,在導入時選擇新注冊會自動生成 Mac 地址,無需更改

  • centos8.5 查看mac地址:ip link show dev eth0

  • 外部使用 PowerShell 查看:(Get-VMNetworkAdapter -VMName "k8s-master").MacAddress

確保 product_uuid 的唯一性

  • 執行 sudo cat /sys/class/dmi/id/product_uuid 查看product_uuid 我這里因為都是復制的虛擬機,查出來是一樣的的,所以需要修改

  • 修改需要關閉虛擬機后執行PowerShell腳本 ,文章總結
  • 外部查看Hyper-V虛擬機 UUID
Get-VM "k8s-master" | % { (gwmi -Namespace root\virtualization\v2 -Class msvm_computersystem -Filter ('ElementName="{0}"' -f $_.Name)).GetRelated('msvm_virtualsystemsettingdata') | select BIOSGUID }
Get-VM "k8s-worker01" | % { (gwmi -Namespace root\virtualization\v2 -Class msvm_computersystem -Filter ('ElementName="{0}"' -f $_.Name)).GetRelated('msvm_virtualsystemsettingdata') | select BIOSGUID }
Get-VM "k8s-worker02" | % { (gwmi -Namespace root\virtualization\v2 -Class msvm_computersystem -Filter ('ElementName="{0}"' -f $_.Name)).GetRelated('msvm_virtualsystemsettingdata') | select BIOSGUID }
  • PowerShell 修改 Hyper-V虛擬機 UUID
#這里假設虛擬機的VMname是k8s-master,自行替換即可
$VMname="k8s-master"
$vmx = Get-WmiObject -Namespace root\virtualization\v2 -Class msvm_virtualsystemsettingdata 
#每次操作選擇一臺虛擬機
$CurrentSettingsData = $vmx | Where-Object { $_.ElementName -eq $VMname }
#檢查一下老的GUID
$CurrentSettingsData.BIOSGUID
#生成新GUID
$GUID = [System.Guid]::NewGuid()
#重新寫入GUID,注意要帶{},這是非常重要的細節
$CurrentSettingsData.BIOSGUID = "{" + $GUID.Guid.ToUpper() + "}" 
#生成一個ModifySystemSettings的空對象
$VMMS = Get-WmiObject -Namespace root\virtualization\v2 -Class msvm_virtualsystemmanagementservice
$ModifySystemSettingsParams = $VMMS.GetMethodParameters('ModifySystemSettings')
#配置這個屬性,需要特殊的轉換方式
$ModifySystemSettingsParams.SystemSettings = $CurrentSettingsData.GetText([System.Management.TextFormat]::CimDtd20)
#寫入
$VMMS.InvokeMethod('ModifySystemSettings', $ModifySystemSettingsParams, $null)
  • 開機后查詢可以看到已經修改成功

確保 Machine ID 的唯一性

  • 執行 /etc/machine-id 或使用 hostnamectl 發現機器id是一樣的

  • 重新生成了機器id
sudo cp /etc/machine-id /etc/machine-id.backup
sudo rm /etc/machine-id
sudo systemd-machine-id-setup
cat /etc/machine-id
  • 執行結果

檢查端口是否被占用

  • centos8.5 使用 ss 查詢端口是否使用
ss -tuln | grep -E "6443|2379|2380|10250|10259|10257|30000-32767"
  • 執行結果,無占用

安裝 K8S v1.18.8

都2023年了,為什么還是 v1.18.8?

因為公司用的這個版本,并且后面要負責搭建,趁此周末,實踐一二,確認可行,遂與君分享。

節點初始化

  • 執行主機: master ,worker01,worker02
  • 關閉防火墻
  • 關閉swap分區
  • 允許 iptables 檢查橋接流量
  • 添加阿里云 yum 源
# 關閉防火墻
systemctl stop firewalld
# 設置永久不開啟防火墻
systemctl disable firewalld

# 關閉swap 分區 
swapoff -a   
#永久關閉
sed -ri 's/.*swap.*/#&/' /etc/fstab

# 將 SELinux 設置為 permissive 模式(相當于將其禁用)
setenforce 0
sed -i 's/^SELINUX=enforcing$/SELINUX=permissive/' /etc/selinux/config

# 允許 iptables 檢查橋接流量
cat > /etc/sysctl.d/k8s.conf << EOF
net.bridge.bridge-nf-call-ip6tables = 1
net.bridge.bridge-nf-call-iptables = 1
net.ipv4.ip_forward = 1
EOF

# 添加阿里云 yum 源
cat > /etc/yum.repos.d/kubernetes.repo << EOF
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF

安裝kubeadm&kubelet&kubectl

  • 執行主機: master ,worker01,worker02
  • kubeadm:用來初始化集群的指令。
  • kubelet:在集群中的每個節點上用來啟動 Pod 和容器等。
  • kubectl:用來與集群通信的命令行工具。
# 安裝
yum install -y kubeadm-1.18.8 kubelet-1.18.8 kubectl-1.18.8 ipvsadm
# 自啟
sudo systemctl enable --now kubelet
  • 驗證是否安裝完成

    • kubelet --version
    • kubeadm version
    • kubectl version

安裝容器

  • 執行主機: master ,worker01,worker02

在 Docker 19.x 版本之前,Docker 使用自己的容器運行時(稱為 Docker Runtime)。從 Docker 19.x 版本開始,Docker Engine 開始使用 containerd 作為默認的容器運行時,以提供更穩定、可靠的容器管理功能。

  • k8s v1.18.8 版本,安裝docker v24 暫未遇到問題
  • 判斷是否啟用:systemctl status containerd
  • 安裝docker及container
curl -o /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-vault-8.5.2111.repo
rm /etc/yum.repos.d/CentOS-Linux-AppStream.repo -f
rm /etc/yum.repos.d/CentOS-Linux-BaseOS.repo -f
dnf clean all
sudo yum install -y yum-utils device-mapper-persistent-data lvm2
sudo yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo
sudo yum install -y docker-ce-3:24.0.0-1.el8 docker-ce-cli-1:24.0.6-1.el8 containerd.io docker-buildx-plugin docker-compose-plugin

可參考 Docker V24 及 Docker Compose V2 的安裝及使用

設置節點網絡的別名

  • 執行主機: master ,worker01,worker02
cat >> /etc/hosts << EOF
192.168.123.100 master
192.168.123.101 worker01
192.168.123.102 worker02
EOF

初始化集群

  • 執行主機: master
  • --apiserver-advertise-address:指定通訊節點,使用master節點即可
  • --image-repository:k8s官網鏡像庫
  • --service-cidr: svc網絡的ip段設置
  • --pod-network-cidr:pod的ip段配置,每個pod都會有自己的ip kube-flannel.yml 默認 10.244.0.0/16
kubeadm init \
  --apiserver-advertise-address=192.168.123.100 \
  --image-repository registry.aliyuncs.com/google_containers \
  --kubernetes-version v1.18.8 \
  --service-cidr=10.10.0.0/16 \
  --pod-network-cidr=10.244.0.0/16 \
  --ignore-preflight-errors=all
  • 執行結果,創建成功

  • 輸出結果如下
您的Kubernetes控制平面已成功初始化!

要開始使用集群,非root用戶需要使用以下操作:

  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config

您現在應該向集群部署一個pod網絡。
Run "kubectl apply -f [podnetwork].yaml" with one of the options listed at:
  https://kubernetes.io/docs/concepts/cluster-administration/addons/
  
然后,您可以通過以root身份在每個工作節點上運行以下操作來加入任意數量的工作節點:
kubeadm join 192.168.123.100:6443 --token nn9das.wslckjkd1ng3oxui \
    --discovery-token-ca-cert-hash sha256:7b3f413e6bfbd1f91448460426a144741bd14c2bb3119cfa058d07d65ab329fd
  • 配置集群身份驗證文件
  mkdir -p $HOME/.kube
  sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
  sudo chown $(id -u):$(id -g) $HOME/.kube/config

若不配置直接使用 kubectl 相關命令會提示:The connection to the server ``localhost:8080`` was refused - did you specify the right host or port?

想要在哪里管理k8s 就要將 .kube 文件夾拷貝到目標主機,即工作節點需要復制 .kube 目錄到 $HOME 目錄中

安裝網絡插件 flannel

  • 下載 kube-flannel.yml
  • 若初始化時指定了 --pod-network-cidr 則需要修改配置中 net-conf.json:Network 項
  • 執行安裝
kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml --insecure-skip-tls-verify

worker節點配置

  • 執行主機:worker01,worker02
  • 根據前面的 環境設置,k8s工具安裝,docker安裝,在worker節點也執行,進行初始化
  • 將worker節點加入集群:執行master初始化后輸出的join命令
kubeadm join 192.168.123.100:6443 --token e270ma.bjeg9k1g3e5k1q2h \
    --discovery-token-ca-cert-hash sha256:7beaa6a51994a7d63544ba1d410504ffe8e58a66746c507d3ff09dd15244a813
  • 若找不到或失效可通過:kubeadm token create --print-join-command重新生成join命令
  • 復制 master 節點的k8s配置文件 $HOME/.kube/config 到工作節點
  • 安裝網絡插件 flannel
khttps://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml --insecure-skip-tls-verify

安裝 Dashboard v2.0.3

Kubernetes Dashboard 是一個用于管理和監控 Kubernetes 集群的 Web 用戶界面。它提供了一個直觀的圖形界面,可以幫助你查看和管理集群中的各種資源、部署應用程序、監控集群狀態等

  • 官方倉庫
  • 執行 recommended.yaml, 安裝面板,完全支持的版本為 v2.0.3
kubectl apply -f https://raw.githubusercontent.com/kubernetes/dashboard/v2.0.3/aio/deploy/recommended.yaml
  • 若需要修改token默認15分鐘的過期時間為7天,修改對應參數即可
args:
- --auto-generate-certificates
- --namespace=kubernetes-dashboard
- --token-ttl=604800
  • 默認創建的 kubernetes-dashboard 無權限,所以需要授權,這里直接創建使用命令創建一個新用戶 admin 并授權
  • 創建用戶
cat <<EOF | kubectl apply -f -
apiVersion: v1
kind: ServiceAccount
metadata:
  name: admin
  namespace: kubernetes-dashboard
EOF
  • 角色授權
cat <<EOF | kubectl apply -f -
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRoleBinding
metadata:
  name: admin
roleRef:
  apiGroup: rbac.authorization.k8s.io
  kind: ClusterRole
  name: cluster-admin
subjects:
- kind: ServiceAccount
  name: admin
  namespace: kubernetes-dashboard
EOF
  • 獲取登陸token
kubectl -n kubernetes-dashboard describe secret $(kubectl -n kubernetes-dashboard get secret | grep kubernetes-dashboard| awk '{print $1}')
[root@master ~]# kubectl -n kubernetes-dashboard describe secret $(kubectl -n kubernetes-dashboard get secret | grep admin | awk '{print $1}')
Name:         admin-token-4nqqz
Namespace:    kubernetes-dashboard
Labels:       <none>
Annotations:  kubernetes.io/service-account.name: admin
              kubernetes.io/service-account.uid: 6f432133-5007-4d8b-9239-8c55efa03826

Type:  kubernetes.io/service-account-token

Data
====
ca.crt:     1025 bytes
namespace:  20 bytes
token:      eyJhbGciOiJSUzI1NiIsImtpZCI6IlUycUl0Zmpnb0Y4Z2FWXzVkbmtjSjR6UngwNW05Z0tDcjVydklLWURYY1EifQ.eyJpc3MiOiJrdWJlcm5ldGVzL3NlcnZpY2VhY2NvdW50Iiwia3ViZXJuZXRlcy5pby9zZXJ2aWNlYWNjb3VudC9uYW1lc3BhY2UiOiJrdWJlcm5ldGVzLWRhc2hib2FyZCIsImt1YmVybmV0ZXMuaW8vc2VydmljZWFjY291bnQvc2VjcmV0Lm5hbWUiOiJhZG1pbi10b2tlbi00bnFxeiIsImt1YmVybmV0ZXMuaW8vc2VydmljZWFjY291bnQvc2VydmljZS1hY2NvdW50Lm5hbWUiOiJhZG1pbiIsImt1YmVybmV0ZXMuaW8vc2VydmljZWFjY291bnQvc2VydmljZS1hY2NvdW50LnVpZCI6IjZmNDMyMTMzLTUwMDctNGQ4Yi05MjM5LThjNTVlZmEwMzgyNiIsInN1YiI6InN5c3RlbTpzZXJ2aWNlYWNjb3VudDprdWJlcm5ldGVzLWRhc2hib2FyZDphZG1pbiJ9.J8nXyfpWjs9IbnvdfrW5hSq5SkCWy16NL89nphiDk-UGZP0qbcx0xQG_IfmTUfO0lxDQdD84VyZ8EzLENtwtqt3oIVZQyyyUAonOzqnAUfN3l9Jd_uFVbZhS_tfnwC3p4z2htUpDfXNLFoA4hav-2EgT6wY3voIZtnarfNvvBCBCimi-pG4AcCvc34V_udpYRXYpP1IPswS82NMTBVt_T1Y8gm_zKwq8LH6Z4LYr6wdr3MxGT4Fr7H5GK1jVS_wbna06HEK-GI_szNf5u-zRTMP5Si4JOHxnEWwHH4keLG6ez0pwkk5jYTqncczeb91Es_zZE95rvLxn1yh2mzAP5g
  • 暴露到集群外
kubectl patch svc kubernetes-dashboard -n kubernetes-dashboard -p '{"spec":{"type":"NodePort","ports":[{"port":443,"targetPort":8443,"nodePort":30001}]}}'
  • 使用 Chrome 訪問:https://192.168.123.102:30001/#/login

  • 因為要求必須要使用https,所以結合之前文章前后端都用得上的 Nginx 日常使用經驗,生成證書并添加域名配置
server {

    listen 80;
    listen       443 ssl;
    server_name k8s.devops.test.com;  # 自行修改成你的域名

    ssl_certificate      /certs/k8s.devops.test.com/server.crt;
    ssl_certificate_key  /certs/k8s.devops.test.com/server.key;
    ssl_session_cache    shared:SSL:1m;
    ssl_session_timeout  5m;
    ssl_ciphers  HIGH:!aNULL:!MD5;
    ssl_prefer_server_ciphers  on;

    location / {
            proxy_pass https://192.168.123.100:30001;
            proxy_http_version 1.1;
            proxy_buffering off;
            proxy_request_buffering off;
            proxy_set_header Upgrade $http_upgrade;
            proxy_set_header Connection "upgrade";
            proxy_set_header Host $host;
            proxy_set_header X-Forwarded-For $remote_addr;
    }
}
  • 成功使用https+域名訪問

  • 升級面板版本 v2.2.0,可以更好的顯示 ingress 相關信息
# 刪除pod
kubectl -n kubernetes-dashboard delete $(kubectl -n kubernetes-dashboard get pod -o name | grep dashboard)
# 重新部署v2.2.0
kubectl apply -f https://raw.githubusercontent.com/kubernetes/dashboard/v2.2.0/aio/deploy/recommended.yaml

安裝 Metrics Server v0.3.7

Metrics Server 是一個用于收集集群中各個組件的資源使用情況和性能指標數據的組件。安裝后可以在面板中或使用命令 kubectl top node 查看集群使用情況

  • 官方倉庫

  • k8s v1.18 對應可以使用 v0.3.7 部署文件 metrics-server/deploy/1.8+/

  • 修改配置 metrics-server-deployment.yaml

    • 修改鏡像源:registry.aliyuncs.com/google_containers
    • 新增command配置跳過證書的驗證: -kubelet-insecure-tls
    • 設置首選通信類型:--kubelet-preferred-address-types=InternalDNS,InternalIP,ExternalDNS,ExternalIP,Hostname
# ...
spec:
      serviceAccountName: metrics-server
      volumes:
      # mount in tmp so we can safely use from-scratch images and/or read-only containers
      - name: tmp-dir
        emptyDir: {}
      containers:
      - name: metrics-server
        # 修改鏡像源 image: k8s.gcr.io/metrics-server/metrics-server:v0.3.7
        image: registry.aliyuncs.com/google_containers/metrics-server:v0.3.7
        imagePullPolicy: IfNotPresent
        # 新增command配置
        command:
        - /metrics-server
        # 跳過 Kubernetes API Server 對 Kubelet TLS 證書的驗證
        - --kubelet-insecure-tls
        # 通信時首選的地址類型
        - --kubelet-preferred-address-types=InternalDNS,InternalIP,ExternalDNS,ExternalIP,Hostname
  • 拷貝文件到服務器或直接在master節點修改
  • 到考本文件的目錄執行命令安裝即可
cd /app/k8s/
kubectl apply -f metrics-server-0.3.7/deploy/1.8+/
  • 目錄結構及修改

  • 執行成功

  • 等待pod部署成功后刷新頁面可以看到監控就出來了

  • 使用 kubectl top node查看節點資源使用情況

  • 使用 kubectl top pod -A 查看 Pod 資源使用情況

安裝 Helm v3.13.1

Kubernetes Helm 是一個包管理工具,用于在 Kubernetes 環境中簡化應用程序的部署和管理。Helm 允許你定義、安裝和升級 Kubernetes 應用程序的預定義軟件包,這些軟件包稱為 Helm Charts。

  • 官方倉庫
  • 安裝v3版本
curl https://raw.githubusercontent.com/helm/helm/master/scripts/get-helm-3 | bash
  • 安裝成功,版本為 v3.13.1

  • 安裝目錄:/usr/local/bin/helm
  • 可以看到有一個警告說沒有安裝git, 因為 Helm 在安裝插件(push插件)時需要使用 Git,所以可以順手安裝一下 git
sudo dnf install git -y
  • 查看Helm倉庫列表:helm repo list ,默認為空,如果要按照什么應用,需要添加對應的倉庫
  • helm 搜索應用:helm search repo ingress-nginx/ingress-nginx --version='<4'
  • helm 卸載應用:helm uninstall -n ingress-nginx ingress-nginx
  • 具體使用可參考下面安裝 ingress-nginx
  • 在 Helm 中修改鏡像源需要使用 --set--set-string 參數來覆蓋默認值。對于 Nginx Ingress Controller,可以通過指定 controller.image.repositorycontroller.image.tag 來修改鏡像源的包地址和版本。這個在安裝ingress-nginx就有使用,在無法使用官方鏡像的時候一般都需要替換為國內鏡像

使用 K8S 集群部署服務

常用命令

  • 部署服務:kubectl apply -f 配置文件名.yml
  • 查看副本集信息:kubectl get replicasets
[root@master tests]# kubectl get replicasets
NAME                  DESIRED   CURRENT   READY   AGE
my-nginx-69448bd7d9   2         2         2       36m
  • 查看 Deployment 信息:kubectl describe deployments my-nginx

  • 查看 Service 信息:kubectl get services my-nginx-service
[root@master tests]# kubectl get services my-nginx-service
NAME               TYPE       CLUSTER-IP      EXTERNAL-IP   PORT(S)        AGE
my-nginx-service   NodePort   10.10.143.180   <none>        80:30080/TCP   35m

集群中可以使用此服務IP進行通訊

  • 查看部署的 nginx 服務的 Pod :kubectl get pods --selector=app=my-nginx
[root@master tests]# kubectl get pods --selector=app=my-nginx
NAME                        READY   STATUS    RESTARTS   AGE
my-nginx-69448bd7d9-q8xtl   1/1     Running   0          39m
my-nginx-69448bd7d9-zghxb   1/1     Running   0          30m
  • 刪除服務:kubectl delete services my-nginx-service
  • 刪除負載:kubectl delete deployment my-nginx

部署一個 nginx 服務

  • 配置一個簡單的 nginx 服務:nginx.yml
  • 部署了 Deployment 和 Service
  • 暴露了容器的端口:80
  • 暴露集群外的端口:30080
  • 設置了2個副本:replicas: 2
  • 完整配置文件
apiVersion: apps/v1
kind: Deployment
metadata:
  name: my-nginx
spec:
  replicas: 2
  selector:
    matchLabels:
      app: my-nginx
  template:
    metadata:
      labels:
        app: my-nginx
    spec:
      containers:
        - name: my-nginx
          image: nginx:latest
          ports:
            - containerPort: 80
---
apiVersion: v1
kind: Service
metadata:
  name: my-nginx-service
spec:
  selector:
    app: my-nginx
  type: NodePort
  ports:
    - protocol: TCP
      port: 80
      targetPort: 80
      nodePort: 30080
  • 上傳到服務器執行:kubectl apply -f nginx.yml
  • 部署成功后使用節點IP+端口號即可訪問

  • 目前部署了兩個服務,但是可以目前沒有能夠設置負載的地方,所以還需要一個 Ingress 控制器來管理流量和負載均衡

使用 Ingress-Nginx v3.41進行服務負載

Kubernetes 默認使用的負載均衡算法是基于 IP 的輪詢(IP-based round-robin),它會將請求按照源 IP 地址的順序分發到不同的 Pod 上。如果需要其他負載均衡算法,可以使用 Ingress 控制器或者自定義的負載均衡解決方案

如果使用 Kubernetes 1.19 或更高版本,可以使用最新版本的 NGINX Ingress Controller;

如果使用舊版本的 Kubernetes(1.18 或更早版本),則必須使用 Ingress-Nginx Controller 的 0.X 版本(例如 0.49 版本

準備

  • 官方倉庫
  • 版本選擇說明
  • ArtifactHub: v3.41
  • 使用 helm 查找 ingress-nginx 包
# 查詢倉庫列表
helm repo list
# 添加倉庫地址
helm repo add ingress-nginx https://kubernetes.github.io/ingress-nginx
# 搜索包
helm search repo ingress-nginx/ingress-nginx --version='<4'
# ingress-nginx/ingress-nginx     3.41.0          0.51.0          Ingress controller for Kubernetes using NGINX a

安裝

  • 創建 namespace
kubectl create namespace ingress-nginx
  • 安裝 ingress-nginx 源下的 v3.41 版本 ingress-nginx, 指定 namespace 為 ingress-nginx,指定鏡像源為阿里云
helm install ingress-nginx ingress-nginx/ingress-nginx --namespace ingress-nginx --version 3.41.0 --set controller.image.repository=registry.aliyuncs.com/google_containers/nginx-ingress-controller
  • 如果安裝后報錯負載無法啟動,可能是因為包無法拉取,可指定鏡像源 --set controller.image.repository 為國內源(registry.aliyuncs.com/google_containers/nginx-ingress-controller) 重新安裝(卸載 helm uninstall -n ingress-nginx ingress-nginx)即可
  • 安裝成功,并給出提示應該如何使用

  • 如果需要在局域網中使用,還需要修改兩個配置

  • 修改負載 ingress-nginx-controller 配置 保存后生效

    • dnsPolicy: ClusterFirstWithHostNet 策略將首先嘗試使用主機的 DNS 解析服務來解析域名,如果主機的 DNS 無法解析該域名,將會嘗試使用其他配置的 DNS 解析器
    • hostNetwork:true Pod 中的容器將使用主機的網絡棧和網絡配置

使用

  • 通過 Dashboard 右上角直接創建 YAML 文件
apiVersion: extensions/v1beta1
kind: Ingress
metadata:
  name: ingress-nginx-test
  namespace: default
spec:
  rules:
  - host: nginx.k8stest.com
    http:
      paths:
      - backend:
          serviceName: my-nginx-service
          servicePort: 80
  • 保存后將會轉發域名請求到前面部署的 my-nginx-service 服務中,此時將使用 ingress-nginx 進行負載,當然,還需要將域名解析到目標服務器,本地局域網可以使用 hosts 或者 dns 設置
  • 通過 kubectl describe pod ingress-nginx-controller -n ingress-nginx 可獲取到ingress-nginx所在節點信息,IP為 192.168.123.102

  • 設置 hosts 192.168.123.102 nginx.k8stest.com,再刷新下dns緩存 ipconfig /flushdns訪問即可,每次刷新都會請求到不同的pod上面

至此,在局域網中安裝使用 k8s v1.18.8,并進行相關配置已經完成,得益與大佬們的分享,耗時兩天,邊弄邊記,優化了一些步驟與細節。后續將嘗試安裝更新的版本,敬請期待。

踩坑記錄

  • 使用yum安裝kubeadm時報錯,測試發現curl無法使用,錯誤如下,需要檢查設置dns:cat /etc/resolv.conf 寫入默認配置或公告dns: nameserver 192.168.123.1
[root@master ~]# yum install -y kubeadm-1.18.8 kubelet-1.18.8 kubectl-1.18.8 ipvsadm
Repository extras is listed more than once in the configuration
CentOS-8.5.2111 - Base - mirrors.aliyun.com                                                                                                                  0.0  B/s |   0  B     00:00
Errors during downloading metadata for repository 'base':
  - Curl error (6): Couldn't resolve host name for http://mirrors.aliyun.com/centos-vault/8.5.2111/BaseOS/x86_64/os/repodata/repomd.xml [Could not resolve host: mirrors.aliyun.com]
  - Curl error (6): Couldn't resolve host name for http://mirrors.aliyuncs.com/centos-vault/8.5.2111/BaseOS/x86_64/os/repodata/repomd.xml [Could not resolve host: mirrors.aliyuncs.com]
  - Curl error (6): Couldn't resolve host name for http://mirrors.cloud.aliyuncs.com/centos-vault/8.5.2111/BaseOS/x86_64/os/repodata/repomd.xml [Could not resolve host: mirrors.cloud.aliyuncs.com]
Error: Failed to download metadata for repo 'base': Cannot download repomd.xml: Cannot download repodata/repomd.xml: All mirrors were tried
  • 阿里云鏡像源的使用,指定鏡像源時需要使用 registry.aliyuncs.com/google_containers/metrics-server:v0.3.7
  • helm 安裝 ingress-nginx 報錯,看是否是因為包拉不下來,可以通過指定鏡像源重新安裝(卸載 helm uninstall -n ingress-nginx ingress-nginx)即可:k8s v1.18.8 安裝 ingress-nginx:helm install ingress-nginx ingress-nginx/ingress-nginx --namespace ingress-nginx --version 3.41.0 --set controller.image.repository=``registry.aliyuncs.com/google_containers/nginx-ingress-controller

相關文檔

  • 官方文檔
    • k8s官方文檔
    • 在低于 1.19 的 Kubernetes 版本上運行 ingress-nginx的說明
  • 參考
    • k8s安裝與試驗
    • K8S 1.18.2安裝dashboard
    • Ingress-Nginx部署
  • 相關推薦
    • Hyper-V 安裝 CentOS 8.5
    • Docker V24 及 Docker Compose V2 的安裝及使用
    • 前后端都用得上的 Nginx 日常使用經驗

后語

前前后后嘗試了好幾次搭建k8s,之前基本都看著這座大山,望而卻步,各種理由而終止。當時21立的flag,終于是在這2023的末尾給實現了。

不積硅步 無以至千里,與君共勉

總結

以上是生活随笔為你收集整理的一篇可供参考的 K8S 落地实践经验的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

亚洲精品乱码久久久久 | 一级成人免费 | 亚洲精品久久久蜜桃直播 | 四虎影视成人永久免费观看视频 | 成人av免费网站 | 色偷偷88888欧美精品久久久 | 午夜视频在线观看一区二区三区 | 一区二区三区电影在线播 | 亚洲成人精品久久久 | 在线看成人 | 国产高清免费av | 96看片| 在线观看免费高清视频大全追剧 | 99电影| 免费网站在线观看人 | 久久人人爽人人人人片 | 久久看片网站 | 国产免费又粗又猛又爽 | 中文字幕一区二区三区四区在线视频 | 国产18精品乱码免费看 | 婷婷精品在线 | 欧美日韩裸体免费视频 | 欧美日韩国产综合一区二区 | 欧洲av在线 | 福利视频一区二区 | 丁香色天天| 久日视频| 国产精品一区二区在线 | 91av在线不卡 | 日韩精品三区四区 | 激情网在线视频 | 欧美大片www | 久久中文视频 | 天天操网| 日韩在线无| 色播激情五月 | 日韩国产精品久久 | 三级性生活视频 | 成人动漫一区二区三区 | 一级黄色免费 | 久久九九影视 | 精品国产精品久久一区免费式 | 国产裸体视频网站 | 在线免费黄 | 国产精品久久久久久一区二区 | 国产香蕉视频在线观看 | 伊人五月婷 | 天天五月天色 | 日韩1级片 | 在线一级片 | 国产视频日本 | 欧美日韩三区二区 | 久久久国产毛片 | 国产精品久久亚洲 | 欧美午夜剧场 | 亚洲精品五月天 | 在线观看黄色小视频 | 色网站在线免费观看 | 天天干天天插 | 欧美在线一二区 | 久久免费观看少妇a级毛片 久久久久成人免费 | 欧美久久久影院 | 一区二区三区免费在线播放 | 欧美日韩国产网站 | 国产精品永久在线观看 | 日韩在线电影 | 99se视频在线观看 | 国产专区视频在线观看 | 人人爽人人射 | 国产午夜精品一区二区三区欧美 | 97碰碰碰| 国产亚洲精品v | 久久国产免费看 | 91精品导航 | 福利视频区| 国产在线a | 午夜999 | 成人一区二区三区中文字幕 | 中国美女一级看片 | 成人在线免费视频 | 日韩在线观看第一页 | 天天干天天玩天天操 | 超碰在线97国产 | 免费在线观看视频a | 在线观看免费一级片 | 国产亚洲片 | 手机av在线网站 | 亚洲人成免费 | 激情综合中文娱乐网 | av久久久 | 欧美日韩久 | 深夜免费福利在线 | 九九免费视频 | 亚洲精品美女久久久久网站 | 91超在线 | 婷婷激情在线 | 很黄很黄的网站免费的 | 久久艹中文字幕 | 91亚洲视频在线观看 | 国内精品免费久久影院 | 91秒拍国产福利一区 | 久久有精品 | 亚洲一区尤物 | 国产精品久久久久久久久久久久午夜 | 久草精品视频在线看网站免费 | 中文视频一区二区 | www.黄色小说.com | 91人人射 | 在线观看黄网 | 久久,天天综合 | 少妇高潮流白浆在线观看 | 久久久久成人精品免费播放动漫 | 免费亚洲一区二区 | 日韩精品一区二区在线观看 | 亚洲三级毛片 | 欧美成年网站 | 欧美精品乱码久久久久久 | 午夜少妇一区二区三区 | 在线中文字幕网站 | 精品亚洲在线 | 91精品一区二区三区久久久久久 | 狠狠干电影 | 精品一区在线看 | 久久激情五月激情 | 99热这里只有精品在线观看 | 在线成人中文字幕 | 91在线观看视频网站 | 91av免费观看 | 激情丁香5月 | 91手机电视 | 天天综合网天天综合色 | 韩日电影在线免费看 | 久久不射影院 | 欧美日韩一级久久久久久免费看 | 91资源在线| 欧美色图狠狠干 | 久久综合久久久 | 久久精品中文字幕少妇 | 久久国产精品久久w女人spa | 四虎在线免费视频 | 日韩v在线91成人自拍 | 久久久久久久免费 | 开心激情久久 | 在线看国产日韩 | 国产精品亚洲成人 | 国产99re| 91av99| 青青视频一区 | 亚洲免费黄色 | 国产又粗又猛又色 | 日韩精品一区二区三区高清免费 | 中文字幕中文字幕在线中文字幕三区 | 国产色在线观看 | av在线电影网站 | 久久综合日 | 久久黄色a级片 | 91在线视频网址 | 日韩欧美高清一区二区三区 | 婷婷在线网站 | 久色免费视频 | 五月开心色 | 日韩不卡高清 | 丁五月婷婷 | 久久夜色精品亚洲噜噜国4 午夜视频在线观看欧美 | 综合久久综合久久 | 亚洲午夜在线视频 | 国产99一区二区 | 激情婷婷在线 | 91在线视频在线 | 在线激情小视频 | 成人黄在线观看 | 国产一级一级国产 | 欧美性受极品xxxx喷水 | 国产一区国产二区在线观看 | 日日夜夜天天干 | 国产美女在线免费观看 | 人人舔人人爱 | 色网站国产精品 | 国产明星视频三级a三级点| 在线免费看黄色 | 日韩欧美视频一区二区 | 成人黄色av网站 | 欧美巨大| 99视频久久 | 国产综合香蕉五月婷在线 | 国产一级视屏 | 日本丶国产丶欧美色综合 | 九九热在线观看视频 | a亚洲视频 | 国产看片 色 | 人人爽人人爽人人片av | 中国一级片在线播放 | 国产精品久久久久9999吃药 | 国产a国产a国产a | 国产精品色婷婷视频 | 精品在线亚洲视频 | 九九热免费观看 | 国产99一区视频免费 | 国产精品美女视频 | 性色xxxxhd | 免费手机黄色网址 | 中国精品一区二区 | 久草男人天堂 | 狠狠狠的干 | 免费黄色在线网站 | a v在线视频 | 国产专区在线播放 | 日韩精品一区在线播放 | www.色午夜.com| 日本少妇视频 | 国产91成人在在线播放 | 五月婷婷久| 在线观看香蕉视频 | 久久久久久欧美二区电影网 | 免费看黄在线网站 | 国产一及片 | 日韩最新理论电影 | 色网站在线看 | 久久精品国产99 | 中文字幕在线免费播放 | 久久久毛片 | 精品 激情 | 久久99国产视频 | 中文字幕日韩高清 | 精品久久在线 | av久久久| 91麻豆精品国产91久久久无需广告 | 国产精品九九久久99视频 | 国产热re99久久6国产精品 | 97国产精品一区二区 | 一本一本久久a久久精品综合 | 久久在线电影 | 黄色免费看片网站 | 中文字幕免费高清av | 草久视频在线观看 | 激情五月婷婷综合网 | 亚洲精品免费看 | 蜜臀久久99静品久久久久久 | 99精品国产免费久久 | 五月婷婷丁香 | 美女av电影| 久草在线免费资源 | 久久久久久久久久免费视频 | 国产系列 在线观看 | 国产高清久久久 | 在线观看日韩视频 | 久久avav | 嫩小bbbb摸bbb摸bbb | 综合影视| 久草青青在线观看 | 午夜国产在线 | 欧美专区国产专区 | 国产精品露脸在线 | 欧美精品黑人性xxxx | 在线观看日本韩国电影 | 成人激情开心网 | 91网在线看 | 亚洲成人精品在线观看 | 日韩免费高清在线 | 日韩mv欧美mv国产精品 | 免费久草视频 | 在线观看一区二区精品 | 免费久久久| 国产麻豆剧传媒免费观看 | 精品久久网 | 国产在线视频资源 | 国产精品wwwwww | 99热精品在线观看 | 亚洲精品乱码久久久久久9色 | 中文字幕有码在线播放 | 国产视频二区三区 | 久久r精品| 天天久久综合 | 亚洲男人天堂a | 久久久私人影院 | 色综合网在线 | 国产99区| 日韩视频在线播放 | 91精品国产一区二区三区 | 亚洲丝袜中文 | 日韩大陆欧美高清视频区 | 国产一区二区影院 | 在线国产日本 | 开心激情五月网 | 日本电影久久 | 亚洲国产剧情 | 国产 在线观看 | 麻豆精品在线视频 | 久久精品女人毛片国产 | 免费av免费观看 | a在线视频v视频 | 中文字幕免费久久 | 日韩中文字幕免费电影 | 国产精品系列在线观看 | 一区二区三区免费在线观看视频 | 日本一区二区三区免费观看 | 97手机电影网| 久久久久久久久久影院 | 五月天婷婷丁香花 | 亚洲乱码国产乱码精品天美传媒 | 国产在线视频一区二区 | 在线观看视频三级 | 国产a高清| 中文字幕免费高清在线观看 | 亚洲黄色在线 | 日韩欧美视频一区二区 | 精品欧美小视频在线观看 | 免费看一及片 | www色av | www.在线观看av| 国产欧美日韩精品一区二区免费 | 午夜成人免费影院 | 激情丁香在线 | 亚洲一区动漫 | 国产亚洲精品久久久久久网站 | 亚洲综合最新在线 | www.97视频 | 一区二区影视 | 少妇性bbb搡bbb爽爽爽欧美 | 国产在线免费av | 在线看毛片网站 | 手机在线小视频 | 国产无遮挡又黄又爽馒头漫画 | 国产精品一二三 | 天天插狠狠干 | 一区二区三区在线免费观看 | 精品一区二区三区电影 | 97精品国自产拍在线观看 | 色婷婷激情五月 | 欧美va电影| 久久久久久国产精品久久 | 狠狠插狠狠操 | 久草在线免费看视频 | 免费欧美精品 | 日韩在线免费 | 国内精品久久久久影院优 | 天天操天天综合网 | a天堂免费 | 丁香六月婷 | 国产亚洲成人精品 | 97精产国品一二三产区在线 | 粉嫩av一区二区三区免费 | 狠狠色丁香婷婷 | www黄色com| 91在线免费播放 | 亚洲激情国产精品 | 亚洲五月婷婷 | 欧美a级在线播放 | 国产精品美女久久久久久免费 | 成 人 黄 色视频免费播放 | 国产精品欧美久久久久天天影视 | 婷婷激情综合网 | 日韩欧美一区二区三区视频 | 黄网站色欧美视频 | 日日夜夜狠狠 | 免费看精品久久片 | 国产小视频免费在线网址 | 2019中文最近的2019中文在线 | 最近2019年日本中文免费字幕 | 日韩精品中字 | 91中文字幕在线播放 | 亚洲国产成人精品在线 | 日本公妇在线观看高清 | 精品在线观看一区二区 | 中文字幕三区 | 久久99欧美 | 九九精品视频在线看 | 久久久人人人 | 五月天电影免费在线观看一区 | 国产成人精品在线 | 久久精品视频免费播放 | 91一区二区三区久久久久国产乱 | 美女视频网站久久 | 欧美日韩高清 | 国产小视频网站 | 免费在线观看a v | 狠狠做深爱婷婷综合一区 | 成人在线播放av | 日韩在线观看三区 | 中文字幕资源在线观看 | 国产精品免费麻豆入口 | 国产成人精品区 | 久久久这里有精品 | 日日操日日插 | 久久久国产一区二区三区四区小说 | 人人干人人干人人干 | 国产精品ⅴa有声小说 | 国产精品美女久久久免费 | 81国产精品久久久久久久久久 | 亚洲综合精品视频 | 日韩欧美精品在线观看视频 | 久久成人国产精品免费软件 | 国模精品在线 | 久久久免费在线观看 | 亚洲情感电影大片 | 久久国产精品影片 | 高清av中文字幕 | 国产一区二区精品在线 | 日本精品久久久久 | 99九九99九九九视频精品 | 国产成人精品久久二区二区 | 中文字幕第一 | 91色蜜桃 | 午夜精品久久久 | 日韩三级视频在线观看 | 国产美女在线精品免费观看 | 国产精品 国内视频 | 日本三级大片 | 日本婷婷色 | 999国内精品永久免费视频 | 92av视频 | 欧美色插| 精品 激情| 久久色网站 | wwwwww黄 | 黄色网址在线播放 | 精品综合久久 | 国产一线二线三线在线观看 | 一区二区三区av在线 | 久草视频在线免费播放 | 久久精品国产亚洲a | 国产又黄又硬又爽 | 国产999久久久 | 在线日韩三级 | 国内小视频 | 亚洲黄色在线观看 | 最近中文字幕免费视频 | 九九热只有这里有精品 | 亚洲,播放| 成人免费观看av | 成年人视频免费在线播放 | 国产999精品 | 日韩欧美不卡 | av网站在线观看播放 | 97夜夜澡人人双人人人喊 | 亚洲国产成人精品电影在线观看 | 波多野结衣精品视频 | 久草视频在线免费看 | 国产亚洲精品成人av久久ww | 美女网站视频免费黄 | 成人片在线播放 | 日韩视频免费 | 精品一区二区电影 | 91亚洲国产成人 | 黄色一级大片在线观看 | 国产精品久久久久久久久久了 | www.夜夜操.com | 黄色在线免费观看网址 | 大荫蒂欧美视频另类xxxx | 久久久久久久久久久影院 | 天天人人| 亚洲影院色| 高清av免费观看 | 91精品国产亚洲 | 91欧美精品 | 久久精品a | 亚洲成熟女人毛片在线 | 久久r精品 | 日日夜av| 99视频精品全国免费 | 国产一区二区三区 在线 | 五月婷婷在线观看视频 | 国产69精品久久久久久久久久 | 在线观看日本高清mv视频 | 色99导航| 免费的成人av | 欧美一级裸体视频 | 五月导航 | 六月丁香综合 | 免费看黄色大全 | 国产高清精 | 亚洲天堂网视频在线观看 | 国产午夜影院 | 国产亚洲人成网站在线观看 | 久久久国产精品久久久 | 97热久久免费频精品99 | 免费黄色看片 | 国产精品爽爽爽 | 国产精品乱码在线 | 国产成人精品午夜在线播放 | 欧美成人猛片 | 99在线看| 国产精品久久一区二区无卡 | 欧美日韩久久一区 | 4438全国亚洲精品观看视频 | 国产精品久久99综合免费观看尤物 | 黄色成人影院 | 久久福利国产 | 丁香婷婷电影 | 9在线观看免费高清完整版在线观看明 | 香蕉视频免费看 | av在线网站免费观看 | 天天干天天玩天天操 | 婷婷伊人五月 | 色婷婷综合久色 | 免费试看一区 | 丁香六月婷婷开心 | 日韩大片在线 | 亚洲婷婷综合色高清在线 | 国产在线不卡视频 | 亚洲免费一级 | 婷婷伊人综合 | 亚洲日本欧美 | 国产亚洲一级高清 | 国内偷拍精品视频 | 国产成人在线观看免费 | 五月天九九 | 国产精品麻豆视频 | 免费观看黄色12片一级视频 | 狠狠操91| 久草国产精品 | 在线影视 一区 二区 三区 | 欧美日韩精品免费观看视频 | 99r精品视频在线观看 | 久久不射影院 | 99久久久久久久 | 日日日日日 | 成人毛片在线视频 | 色综合亚洲精品激情狠狠 | 亚洲理论在线观看 | 特黄色大片 | 久久久久久免费毛片精品 | 在线亚洲欧美日韩 | 亚洲精品视频在线免费 | 视频在线观看入口黄最新永久免费国产 | 国产日产在线观看 | 色婷婷狠狠18 | 日韩精品不卡在线观看 | 久久久香蕉视频 | 国产一区二区观看 | 在线免费观看av网站 | 亚洲少妇久久 | 亚洲视频每日更新 | 国产91九色视频 | 亚洲综合在线发布 | 黄色成人av在线 | 国产伦理久久精品久久久久_ | 国内精品久久久久久久影视简单 | 天天射天天操天天 | 狠狠狠狠狠狠狠狠干 | 麻豆va一区二区三区久久浪 | 一级黄色在线免费观看 | 五月天.com| 91视频传媒 | 色噜噜日韩精品欧美一区二区 | 成人av在线直播 | 国产淫片 | 午夜影视一区 | 99综合电影在线视频 | 欧美激情视频三区 | 国产精品18久久久久久久网站 | 久草在线免费播放 | 日本中文在线 | 免费网站在线 | 日韩免费在线 | 亚洲久草网 | 国产成人av免费在线观看 | 狠狠综合| 亚洲精品玖玖玖av在线看 | 91精品国产麻豆 | 精品久久久国产 | 成人av直播 | 国产精品一区二区美女视频免费看 | 亚洲特级片 | 久久激情视频 久久 | 久久精品国产免费看久久精品 | 国产一区二区精品在线 | 91精品久久久久久久久 | 国产一级大片免费看 | 99久久婷婷国产 | 日韩网站视频 | 国产精品综合久久久久 | 亚洲国产欧美在线人成大黄瓜 | 欧美日韩一区二区在线 | 美女免费网站 | 亚洲人成人天堂h久久 | 高清精品视频 | 日韩欧美在线高清 | 国产人成在线视频 | 成人精品视频久久久久 | 国产 日韩 欧美 自拍 | 亚洲综合射 | 成人性生交大片免费看中文网站 | 91成人在线观看高潮 | 黄色三级免费片 | 成人wwwxxx视频 | 久久久亚洲精品 | 亚洲不卡在线 | 中日韩在线 | 九九九九九九精品任你躁 | 狠狠干成人综合网 | 日韩精品视频第一页 | 999视频在线播放 | 国产精品毛片一区二区三区 | av电影在线不卡 | 91亚洲精品久久久蜜桃网站 | 婷婷综合成人 | 国产精品自产拍在线观看网站 | 国产精品美女久久久免费 | 中文字幕在线不卡国产视频 | 久久a视频 | 久久久99久久 | 激情视频国产 | 欧美日韩在线视频免费 | 18女毛片 | 免费福利在线播放 | 国产精品99在线播放 | 7777精品伊人久久久大香线蕉 | 天天色天天射天天操 | 鲁一鲁影院 | 国产天天爽| 公与妇乱理三级xxx 在线观看视频在线观看 | 成人黄色在线观看视频 | 日本少妇久久久 | 日本中文字幕影院 | 91精品秘密在线观看 | 欧美二区三区91 | 亚洲综合网站在线观看 | 黄色高清视频在线观看 | 天天干天天射天天插 | 天天干天天综合 | 国产亚洲精品久久19p | 欧美成人影音 | 99亚洲精品视频 | av电影中文字幕在线观看 | 欧美一二三四在线 | 黄p网站在线观看 | 久久精品视频中文字幕 | 91精品国产99久久久久久久 | 久久国产精品久久久久 | 在线观看你懂的网站 | 国产系列精品av | 国产精品麻 | 中文字幕日韩有码 | 一本一本久久a久久精品综合 | 久久99国产精品免费网站 | 男女啪啪视屏 | 欧美精品中文 | 最新中文字幕在线观看视频 | 国产原厂视频在线观看 | 欧美日韩中文国产一区发布 | 国产另类av| 九九激情视频 | 九九热免费在线观看 | av888.com| www.夜夜 | 午夜精品福利在线 | 免费三级网 | 91免费高清视频 | 成人在线免费看 | 激情五月综合网 | 超碰97公开| 最新婷婷色 | 激情综合中文娱乐网 | 精品一区二区视频 | 日韩中文在线字幕 | 久久久精品欧美一区二区免费 | 91欧美日韩国产 | 国内精品久久久久久久久久久久 | 亚洲成a人片77777kkkk1在线观看 | 操天天操 | 97av视频在线观看 | 日本中文字幕在线电影 | 婷婷中文字幕综合 | 永久免费视频国产 | 午夜av一区| 在线观看午夜av | 99精品电影 | 国产精品成人久久久久 | 午夜精品av| 亚洲一区二区黄色 | 亚洲尺码电影av久久 | 2021国产在线 | 深爱激情亚洲 | 婷婷丁香在线观看 | japanese黑人亚洲人4k | 亚洲一区二区视频在线 | 亚洲欧洲精品视频 | 97成人免费视频 | 成人av亚洲 | 最新中文字幕 | 国产精品久久久久久久久久久久午夜片 | 精品久久久久国产 | 中文视频在线看 | 久久久久久久综合色一本 | 美女网站视频一区 | 国产一区二区三区免费观看视频 | 国产99中文字幕 | 亚洲另类交 | 国产1区2区3区在线 亚洲自拍偷拍色图 | 国产成人精品久久亚洲高清不卡 | 中文字幕三区 | 久久日韩精品 | 国产玖玖精品视频 | 成年人黄色免费视频 | 在线免费av播放 | 特级西西444www大胆高清无视频 | 久久高清精品 | 亚洲成人黄色在线观看 | 91九色成人蝌蚪首页 | 欧美一级片在线免费观看 | av一本久道久久波多野结衣 | 国产精品久久久久久久久久久久午夜 | 高清在线一区 | 亚洲在线看 | 一区二区高清在线 | 丁香婷婷社区 | 激情婷婷网 | 91精品视频免费看 | 国产欧美高清 | www.看片网站| 一区中文字幕在线观看 | 国产精品免费人成网站 | 免费看三片 | av大全免费在线观看 | 免费的国产精品 | 国产精品美女久久久久久久 | 精品在线观看一区二区 | 国产成人精品亚洲日本在线观看 | 亚洲一区二区天堂 | 国产免费视频一区二区裸体 | 91九色蝌蚪国产 | 国产欧美最新羞羞视频在线观看 | 免费精品视频在线 | 一区二区免费不卡在线 | 亚洲视频1 | 色综合久久中文字幕综合网 | 8090yy亚洲精品久久 | 天天视频色版 | 91久久人澡人人添人人爽欧美 | 久久久久99精品国产片 | 国产成人黄色在线 | 狠狠干天天射 | 色视频在线观看 | 久久天| 亚洲成人黄色av | 国产成人精品国内自产拍免费看 | 日韩专区在线 | 日韩免费播放 | 精品欧美乱码久久久久久 | 超碰在线98 | 天天操夜夜曰 | 日韩中文三级 | www免费网站在线观看 | 日韩午夜av | 国产最顶级的黄色片在线免费观看 | 四虎影视成人永久免费观看亚洲欧美 | 国产一级免费在线观看 | 日韩成人av在线 | 成人欧美一区二区三区黑人麻豆 | 日韩精品一区二区三区免费观看 | 亚洲jizzjizz日本少妇 | 激情网五月婷婷 | 亚洲成人影音 | 久久五月天婷婷 | 五月天综合色激情 | 国产精品久久久久久久婷婷 | 欧美亚洲国产精品久久高清浪潮 | 97在线免费视频 | 五月婷婷综合色拍 | 99视频在线精品免费观看2 | 蜜臀91丨九色丨蝌蚪老版 | 免费在线国产 | 中文不卡视频在线 | 一区二区三区精品在线视频 | 性日韩欧美在线视频 | 欧美另类xxxx | 91精选| 99在线观看免费视频精品观看 | 久久99精品一区二区三区三区 | 国产精品欧美久久久久天天影视 | 亚洲狠狠丁香婷婷综合久久久 | 日韩黄色大片在线观看 | 精品免费视频. | 日韩精品一区二区三区外面 | 久久新| 蜜臀av免费一区二区三区 | 国产又黄又爽又猛视频日本 | 成人影视免费 | 亚洲尺码电影av久久 | 人人澡人人澡人人 | 午夜色婷婷 | 免费大片av | 91重口视频 | 免费日韩一区二区 | jizzjizzjizz亚洲| 麻花豆传媒mv在线观看 | 成人精品一区二区三区电影免费 | 亚洲电影网站 | 欧美精品在线免费 | 久草在线免费看视频 | 久久草| aaa日本高清在线播放免费观看 | 中文字幕高清视频 | av丝袜制服| 免费在线观看av电影 | 中文字幕在线播放视频 | 91大神精品视频在线观看 | 亚洲,国产成人av | www.色综合.com| 亚洲一区二区三区在线看 | 中文字幕一区二区三区视频 | 久久久久久久国产精品视频 | 天天搞天天| 成人a视频在线观看 | 91精品在线免费 | 激情xxxx | 国产成人a亚洲精品v | 欧美日韩电影在线播放 | 91视频网址入口 | 国产精品久久二区 | 欧美一级片在线免费观看 | 国产日韩欧美在线一区 | 视频在线观看99 | 久久久国产影院 | 久久精品久久精品久久精品 | 色橹橹欧美在线观看视频高清 | 国产一区二区观看 | 丁香婷五月 | 麻豆传媒电影在线观看 | 国产精品国产自产拍高清av | 欧美日韩高清在线观看 | 免费看一级特黄a大片 | 91九色精品 | 六月丁香伊人 | 久久免费视频1 | 2019中文在线观看 | 国产成人在线观看免费 | 久久成人在线 | 91九色在线观看视频 | 免费观看黄色12片一级视频 | 91传媒在线 | 国产小视频在线观看 | 天天躁日日躁狠狠躁 | 国产丝袜在线 | 91精品色 | 欧美肥妇free | 国产精品入口麻豆www | 欧美日韩一区二区三区在线观看视频 | 亚洲精品777| 精品久久一级片 | 91欧美精品| 亚洲国产午夜精品 | 中文字幕亚洲欧美日韩 | 色999五月色 | 亚洲国产中文字幕 | 日韩av成人在线观看 | 国产美女被啪进深处喷白浆视频 | 精品高清美女精品国产区 | 国产精品亚洲人在线观看 | 中文字幕av在线免费 | 97成人精品区在线播放 | 一区二区三区高清在线观看 | 成人欧美一区二区三区在线观看 | 免费网站看v片在线a | 国产在线观看你懂的 | 久久久精品午夜 | 亚洲黄色在线免费观看 | 在线观看中文字幕av | 色婷婷在线视频 | 亚洲免费婷婷 | 久久99国产精品久久99 | 天天操天天摸天天爽 | 91视频 - v11av| 亚洲精品国产精品国产 | 97精品国产一二三产区 | 一级片免费观看 | 中文字幕国产一区二区 | 精品久久福利 | 美女黄频网站 | 欧美日韩不卡在线视频 | 国产盗摄精品一区二区 | 五月婷婷视频在线 | 奇米网777 | 天天干,夜夜操 | 成年人视频免费在线播放 | 91人人澡| 丁香婷婷激情国产高清秒播 | 欧美一区免费在线观看 | 最近在线中文字幕 | 日韩欧美综合精品 | 特级黄录像视频 | 久久成人在线视频 | 九精品 | 96看片| 国产精品国产亚洲精品看不卡 | 免费黄色a网站 | 日韩免费电影网 | 在线观看深夜视频 | 亚洲国产高清在线观看视频 | 欧美资源在线观看 | 成人资源在线观看 | 色综合久久88色综合天天6 | av千婊在线免费观看 | 黄色视屏在线免费观看 | 草久久久久 | 蜜桃av人人夜夜澡人人爽 | 亚洲欧美国产精品久久久久 | 91亚瑟视频 | 亚洲黄色影院 | 一级免费黄色 | 能在线看的av | 久久久久久久久久久影视 | 激情婷婷亚洲 | 日本一区二区高清不卡 | 韩日在线一区 | 午夜影院一级片 | 中文字幕成人一区 | 日韩免费观看一区二区 | 在线观看视频三级 | 久久精品日产第一区二区三区乱码 | 亚洲va在线va天堂 | 国内精品视频久久 | 亚洲激情一区二区三区 | 日韩理论 | 国产在线高清 | 啪啪资源| 伊人影院99 | 国产99精品在线观看 | 欧美一级久久 | 在线精品亚洲 | 国产不卡精品 | 日韩欧美精品在线观看视频 | 亚洲精品午夜一区人人爽 | 免费av网址在线观看 | 日韩av中文| 成人国产精品久久久久久亚洲 | 国色天香永久免费 | 久久字幕精品一区 | 久久成人一区二区 | 在线黄色国产 | 日韩精品无码一区二区三区 | 深夜国产福利 | 99免费看片 | 国产99自拍 | 天天插天天操天天干 | 婷婷色中文字幕 | 99精品视频在线观看 | 黄色小网站在线观看 | 久久视频免费在线观看 | 99在线精品视频在线观看 | 888av| 激情导航| 91av视频在线播放 | 欧美日韩性| 国产在线观看91 | 国产精品资源在线观看 | 国产美腿白丝袜足在线av | 爱射综合 | 欧日韩在线 | 色综合久久88色综合天天 | 伊人久久国产 | 久久艹免费 | 黄色小说18| 综合精品久久 | 亚洲电影自拍 | 久久精品影片 | 国产成人精品一二三区 | 在线观看av片 | 国产成人精品一区二区三区网站观看 | 国产成人99av超碰超爽 | 人人添人人 | 最近中文字幕大全 | 天堂久久电影网 | 在线国产精品视频 | 欧美激情片在线观看 | 久久久久久久久久久免费视频 | 国产精品久久久久久久免费观看 | 国产视频一区在线 | 色婷婷激情综合 | 日韩在线观 | av黄在线播放 | 麻豆一区二区三区视频 | 亚洲精品免费观看 | av电影不卡在线 | 操少妇视频 | 久久爱综合 | 国产成人777777| 久久成人资源 | 婷婷五天天在线视频 | 欧美综合色在线图区 | 国产精品视频资源 | 国产一区二区三区在线 | 国产日韩高清在线 | 国产资源精品在线观看 | av成人亚洲 | 久久综合免费视频 | 日日干 天天干 | 天天干,天天干 | 久久香蕉国产精品麻豆粉嫩av | 正在播放国产一区二区 | 成人黄色电影视频 | 国产精品一区在线观看你懂的 | 国产99视频在线观看 | 超碰在线人人97 | 欧美久久久久久久久久 | 99精品视频免费看 | 狠狠操天天操 |