日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

[错误解决]centos中使用kubeadm方式搭建一个单master的K8S集群

發布時間:2024/1/8 编程问答 37 豆豆
生活随笔 收集整理的這篇文章主要介紹了 [错误解决]centos中使用kubeadm方式搭建一个单master的K8S集群 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

安裝步驟

參考該大佬博客

---------

[ningan@k8s-master pv]$ kubectl get pod The connection to the server localhost:8080 was refused - did you specify the right host or port?

切換到root用戶就好了

-----------

錯誤提示

[ERROR FileContent–proc-sys-net-ipv4-ip_forward]: /proc/sys/net/ipv4/ip_forward contents are not set to 1

解決方法

[root@k8s-node1 ningan]# echo "1" > /proc/sys/net/ipv4/ip_forward

錯誤提示

[root@k8s-master ningan]# kubeadm init --apiserver-advertise-address=192.168.11.147 --image-repository registry.aliyuncs.com/google_containers --kubernetes-version v1.18.0 --service-cidr=10.96.0.0/12 --pod-network-cidr=10.244.0.0/16
this version of kubeadm only supports deploying clusters with the control plane version >= 1.19.0. Current version: v1.18.0
To see the stack trace of this error execute with --v=5 or higher

# 錯誤提示 [root@k8s-master ningan]# kubeadm init --apiserver-advertise-address=192.168.11.147 --image-repository registry.aliyuncs.com/google_containers --kubernetes-version v1.18.0 --service-cidr=10.96.0.0/12 --pod-network-cidr=10.244.0.0/16 this version of kubeadm only supports deploying clusters with the control plane version >= 1.19.0. Current version: v1.18.0 To see the stack trace of this error execute with --v=5 or higher

解決方法

查看需要的鏡像源

[root@k8s-master ningan]# kubeadm config images list k8s.gcr.io/kube-apiserver:v1.20.1 k8s.gcr.io/kube-controller-manager:v1.20.1 k8s.gcr.io/kube-scheduler:v1.20.1 k8s.gcr.io/kube-proxy:v1.20.1 k8s.gcr.io/pause:3.2 k8s.gcr.io/etcd:3.4.13-0 k8s.gcr.io/coredns:1.7.0

按照下面這種方式換一個鏡像源先拉取下來

[root@k8s-master ningan]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/kube-apiserver:v1.20.1 [root@k8s-master ningan]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/kube-controller-manager:v1.20.1 [root@k8s-master ningan]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/kube-scheduler:v1.20.1 [root@k8s-master ningan]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/kube-proxy:v1.20.1 [root@k8s-master ningan]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/pause:3.2 [root@k8s-master ningan]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/etcd:3.4.13-0 [root@k8s-master ningan]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/coredns:1.7.0

docker images查看docker倉庫中的鏡像,這時大家會發現所有的鏡像都是以registry.aliyuncs.com/google_containers/開頭,這與kubeadm config images list中要求的鏡像名稱不一樣。我們要修改鏡像名稱,即對鏡像重新打個tag

docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/kube-apiserver:v1.20.1 k8s.gcr.io/kube-apiserver:v1.20.1docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/kube-controller-manager:v1.20.1 k8s.gcr.io/kube-controller-manager:v1.20.1docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/kube-scheduler:v1.20.1 k8s.gcr.io/kube-scheduler:v1.20.1docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/kube-proxy:v1.20.1 k8s.gcr.io/kube-proxy:v1.20.1docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/pause:3.2 k8s.gcr.io/pause:3.2docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/etcd:3.4.13-0 k8s.gcr.io/etcd:3.4.13-0docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/coredns:1.7.0 k8s.gcr.io/coredns:1.7.0 ## 注意:這個是自己第二次部署master節點時,因為版本變成了1.20.2,所以在這記錄了一下,方便下次使用 docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/kube-apiserver:v1.20.2 k8s.gcr.io/kube-apiserver:v1.20.2docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/kube-controller-manager:v1.20.2 k8s.gcr.io/kube-controller-manager:v1.20.2docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/kube-scheduler:v1.20.2 k8s.gcr.io/kube-scheduler:v1.20.2docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/kube-proxy:v1.20.2 k8s.gcr.io/kube-proxy:v1.20.2

之后再次初始化,還是出現了錯誤,接著下一個錯誤繼續解決

錯誤提示

[root@k8s-master ningan]# kubeadm reset && kubeadm init --kubernetes-version=v1.20.1 --pod-network-cidr=10.244.0.0/16 --service-cidr=10.96.0.0/12 --ignore-preflight-errors=Swap [reset] Reading configuration from the cluster... [reset] FYI: You can look at this config file with 'kubectl -n kube-system get cm kubeadm-config -o yaml' W0111 13:07:21.865192 75781 reset.go:99] [reset] Unable to fetch the kubeadm-config ConfigMap from cluster: failed to get config map: Get "https://192.168.11.147:6443/api/v1/namespaces/kube-system/configmaps/kubeadm-config?timeout=10s": dial tcp 192.168.11.147:6443: connect: connection refused [reset] WARNING: Changes made to this host by 'kubeadm init' or 'kubeadm join' will be reverted. [reset] Are you sure you want to proceed? [y/N]: y [preflight] Running pre-flight checks W0111 13:07:23.838209 75781 removeetcdmember.go:79] [reset] No kubeadm config, using etcd pod spec to get data directory [reset] Stopping the kubelet service [reset] Unmounting mounted directories in "/var/lib/kubelet" [reset] Deleting contents of config directories: [/etc/kubernetes/manifests /etc/kubernetes/pki] [reset] Deleting files: [/etc/kubernetes/admin.conf /etc/kubernetes/kubelet.conf /etc/kubernetes/bootstrap-kubelet.conf /etc/kubernetes/controller-manager.conf /etc/kubernetes/scheduler.conf] [reset] Deleting contents of stateful directories: [/var/lib/etcd /var/lib/kubelet /var/lib/dockershim /var/run/kubernetes /var/lib/cni]The reset process does not clean CNI configuration. To do so, you must remove /etc/cni/net.dThe reset process does not reset or clean up iptables rules or IPVS tables. If you wish to reset iptables, you must do so manually by using the "iptables" command.If your cluster was setup to utilize IPVS, run ipvsadm --clear (or similar) to reset your system's IPVS tables.The reset process does not clean your kubeconfig files and you must remove them manually. Please, check the contents of the $HOME/.kube/config file. [init] Using Kubernetes version: v1.20.1 [preflight] Running pre-flight checks[WARNING IsDockerSystemdCheck]: detected "cgroupfs" as the Docker cgroup driver. The recommended driver is "systemd". Please follow the guide at https://kubernetes.io/docs/setup/cri/ [preflight] Pulling images required for setting up a Kubernetes cluster [preflight] This might take a minute or two, depending on the speed of your internet connection [preflight] You can also perform this action in beforehand using 'kubeadm config images pull' [certs] Using certificateDir folder "/etc/kubernetes/pki" [certs] Generating "ca" certificate and key [certs] Generating "apiserver" certificate and key [certs] apiserver serving cert is signed for DNS names [k8s-master kubernetes kubernetes.default kubernetes.default.svc kubernetes.default.svc.cluster.local] and IPs [10.96.0.1 192.168.11.147] [certs] Generating "apiserver-kubelet-client" certificate and key [certs] Generating "front-proxy-ca" certificate and key [certs] Generating "front-proxy-client" certificate and key [certs] Generating "etcd/ca" certificate and key [certs] Generating "etcd/server" certificate and key [certs] etcd/server serving cert is signed for DNS names [k8s-master localhost] and IPs [192.168.11.147 127.0.0.1 ::1] [certs] Generating "etcd/peer" certificate and key [certs] etcd/peer serving cert is signed for DNS names [k8s-master localhost] and IPs [192.168.11.147 127.0.0.1 ::1] [certs] Generating "etcd/healthcheck-client" certificate and key [certs] Generating "apiserver-etcd-client" certificate and key [certs] Generating "sa" key and public key [kubeconfig] Using kubeconfig folder "/etc/kubernetes" [kubeconfig] Writing "admin.conf" kubeconfig file [kubeconfig] Writing "kubelet.conf" kubeconfig file [kubeconfig] Writing "controller-manager.conf" kubeconfig file [kubeconfig] Writing "scheduler.conf" kubeconfig file [kubelet-start] Writing kubelet environment file with flags to file "/var/lib/kubelet/kubeadm-flags.env" [kubelet-start] Writing kubelet configuration to file "/var/lib/kubelet/config.yaml" [kubelet-start] Starting the kubelet [control-plane] Using manifest folder "/etc/kubernetes/manifests" [control-plane] Creating static Pod manifest for "kube-apiserver" [control-plane] Creating static Pod manifest for "kube-controller-manager" [control-plane] Creating static Pod manifest for "kube-scheduler" [etcd] Creating static Pod manifest for local etcd in "/etc/kubernetes/manifests" [wait-control-plane] Waiting for the kubelet to boot up the control plane as static Pods from directory "/etc/kubernetes/manifests". This can take up to 4m0s [kubelet-check] Initial timeout of 40s passed.Unfortunately, an error has occurred:timed out waiting for the conditionThis error is likely caused by:- The kubelet is not running- The kubelet is unhealthy due to a misconfiguration of the node in some way (required cgroups disabled)If you are on a systemd-powered system, you can try to troubleshoot the error with the following commands:- 'systemctl status kubelet'- 'journalctl -xeu kubelet'Additionally, a control plane component may have crashed or exited when started by the container runtime.To troubleshoot, list all containers using your preferred container runtimes CLI.Here is one example how you may list all Kubernetes containers running in docker:- 'docker ps -a | grep kube | grep -v pause'Once you have found the failing container, you can inspect its logs with:- 'docker logs CONTAINERID'error execution phase wait-control-plane: couldn't initialize a Kubernetes cluster To see the stack trace of this error execute with --v=5 or higher [root@k8s-master ningan]#

解決方法

先參考這個這個鏈接進行了嘗試,還是解決不了
后來參考這個鏈接成功解決,具體方法如下:
就是把/usr/lib/systemd/system/kubelet.service.d/10-kubeadm.conf復制到 /etc/systemd/system/kubelet.service.d/10-kubeadm.conf

/etc/systemd/system/kubelet.service.d/10-kubeadm.conf中的文件是這樣的:

/usr/lib/systemd/system/kubelet.service.d/10-kubeadm.conf中的文件是這樣的:

至于為什么這樣可以解決問題還不清楚,如果有了解的小伙伴歡迎告知。

具體操作如下:

[root@k8s-master ningan]# cd /etc/systemd/system/kubelet.service.d/ [root@k8s-master kubelet.service.d]# ls 10-kubeadm.conf#此步驟是把之前的文件進行保存,萬一不成功,還要恢復回來 [root@k8s-master kubelet.service.d]# cp 10-kubeadm.conf 10-kubeadm.conf_tmp [root@k8s-master kubelet.service.d]# [root@k8s-master kubelet.service.d]# cd /usr/lib/systemd/system/kubelet.service.d[root@k8s-master kubelet.service.d]# [root@k8s-master kubelet.service.d]# cp 10-kubeadm.conf /etc/systemd/system/kubelet.service.d/10-kubeadm.conf cp:是否覆蓋"/etc/systemd/system/kubelet.service.d/10-kubeadm.conf"yes [root@k8s-master kubelet.service.d]# [root@k8s-master kubelet.service.d]# systemctl daemon-reload

再次運行:kubeadm reset && kubeadm init --kubernetes-version=v1.20.1 --pod-network-cidr=10.244.0.0/16 --service-cidr=10.96.0.0/12 --ignore-preflight-errors=Swap,即可執行成功!

[root@k8s-master kubelet.service.d]# kubeadm reset && kubeadm init --kubernetes-version=v1.20.1 --pod-network-cidr=10.244.0.0/16 --service-cidr=10.96.0.0/12 --ignore-preflight-errors=Swap [reset] Reading configuration from the cluster... [reset] FYI: You can look at this config file with 'kubectl -n kube-system get cm kubeadm-config -o yaml' W0111 13:27:44.374803 80499 reset.go:99] [reset] Unable to fetch the kubeadm-config ConfigMap from cluster: failed to get config map: Get "https://192.168.11.147:6443/api/v1/namespaces/kube-system/configmaps/kubeadm-config?timeout=10s": dial tcp 192.168.11.147:6443: connect: connection refused [reset] WARNING: Changes made to this host by 'kubeadm init' or 'kubeadm join' will be reverted. [reset] Are you sure you want to proceed? [y/N]: y [preflight] Running pre-flight checks W0111 13:27:45.962138 80499 removeetcdmember.go:79] [reset] No kubeadm config, using etcd pod spec to get data directory [reset] Stopping the kubelet service [reset] Unmounting mounted directories in "/var/lib/kubelet" [reset] Deleting contents of config directories: [/etc/kubernetes/manifests /etc/kubernetes/pki] [reset] Deleting files: [/etc/kubernetes/admin.conf /etc/kubernetes/kubelet.conf /etc/kubernetes/bootstrap-kubelet.conf /etc/kubernetes/controller-manager.conf /etc/kubernetes/scheduler.conf] [reset] Deleting contents of stateful directories: [/var/lib/etcd /var/lib/kubelet /var/lib/dockershim /var/run/kubernetes /var/lib/cni]The reset process does not clean CNI configuration. To do so, you must remove /etc/cni/net.dThe reset process does not reset or clean up iptables rules or IPVS tables. If you wish to reset iptables, you must do so manually by using the "iptables" command.If your cluster was setup to utilize IPVS, run ipvsadm --clear (or similar) to reset your system's IPVS tables.The reset process does not clean your kubeconfig files and you must remove them manually. Please, check the contents of the $HOME/.kube/config file. [init] Using Kubernetes version: v1.20.1 [preflight] Running pre-flight checks[WARNING IsDockerSystemdCheck]: detected "cgroupfs" as the Docker cgroup driver. The recommended driver is "systemd". Please follow the guide at https://kubernetes.io/docs/setup/cri/ [preflight] Pulling images required for setting up a Kubernetes cluster [preflight] This might take a minute or two, depending on the speed of your internet connection [preflight] You can also perform this action in beforehand using 'kubeadm config images pull' [certs] Using certificateDir folder "/etc/kubernetes/pki" [certs] Generating "ca" certificate and key [certs] Generating "apiserver" certificate and key [certs] apiserver serving cert is signed for DNS names [k8s-master kubernetes kubernetes.default kubernetes.default.svc kubernetes.default.svc.cluster.local] and IPs [10.96.0.1 192.168.11.147] [certs] Generating "apiserver-kubelet-client" certificate and key [certs] Generating "front-proxy-ca" certificate and key [certs] Generating "front-proxy-client" certificate and key [certs] Generating "etcd/ca" certificate and key [certs] Generating "etcd/server" certificate and key [certs] etcd/server serving cert is signed for DNS names [k8s-master localhost] and IPs [192.168.11.147 127.0.0.1 ::1] [certs] Generating "etcd/peer" certificate and key [certs] etcd/peer serving cert is signed for DNS names [k8s-master localhost] and IPs [192.168.11.147 127.0.0.1 ::1] [certs] Generating "etcd/healthcheck-client" certificate and key [certs] Generating "apiserver-etcd-client" certificate and key [certs] Generating "sa" key and public key [kubeconfig] Using kubeconfig folder "/etc/kubernetes" [kubeconfig] Writing "admin.conf" kubeconfig file [kubeconfig] Writing "kubelet.conf" kubeconfig file [kubeconfig] Writing "controller-manager.conf" kubeconfig file [kubeconfig] Writing "scheduler.conf" kubeconfig file [kubelet-start] Writing kubelet environment file with flags to file "/var/lib/kubelet/kubeadm-flags.env" [kubelet-start] Writing kubelet configuration to file "/var/lib/kubelet/config.yaml" [kubelet-start] Starting the kubelet [control-plane] Using manifest folder "/etc/kubernetes/manifests" [control-plane] Creating static Pod manifest for "kube-apiserver" [control-plane] Creating static Pod manifest for "kube-controller-manager" [control-plane] Creating static Pod manifest for "kube-scheduler" [etcd] Creating static Pod manifest for local etcd in "/etc/kubernetes/manifests" [wait-control-plane] Waiting for the kubelet to boot up the control plane as static Pods from directory "/etc/kubernetes/manifests". This can take up to 4m0s [apiclient] All control plane components are healthy after 17.504521 seconds [upload-config] Storing the configuration used in ConfigMap "kubeadm-config" in the "kube-system" Namespace [kubelet] Creating a ConfigMap "kubelet-config-1.20" in namespace kube-system with the configuration for the kubelets in the cluster [upload-certs] Skipping phase. Please see --upload-certs [mark-control-plane] Marking the node k8s-master as control-plane by adding the labels "node-role.kubernetes.io/master=''" and "node-role.kubernetes.io/control-plane='' (deprecated)" [mark-control-plane] Marking the node k8s-master as control-plane by adding the taints [node-role.kubernetes.io/master:NoSchedule] [bootstrap-token] Using token: mosffs.9c4krp4qbo7ox0fa [bootstrap-token] Configuring bootstrap tokens, cluster-info ConfigMap, RBAC Roles [bootstrap-token] configured RBAC rules to allow Node Bootstrap tokens to get nodes [bootstrap-token] configured RBAC rules to allow Node Bootstrap tokens to post CSRs in order for nodes to get long term certificate credentials [bootstrap-token] configured RBAC rules to allow the csrapprover controller automatically approve CSRs from a Node Bootstrap Token [bootstrap-token] configured RBAC rules to allow certificate rotation for all node client certificates in the cluster [bootstrap-token] Creating the "cluster-info" ConfigMap in the "kube-public" namespace [kubelet-finalize] Updating "/etc/kubernetes/kubelet.conf" to point to a rotatable kubelet client certificate and key [addons] Applied essential addon: CoreDNS [addons] Applied essential addon: kube-proxyYour Kubernetes control-plane has initialized successfully!To start using your cluster, you need to run the following as a regular user:mkdir -p $HOME/.kubesudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/configsudo chown $(id -u):$(id -g) $HOME/.kube/configAlternatively, if you are the root user, you can run:export KUBECONFIG=/etc/kubernetes/admin.confYou should now deploy a pod network to the cluster. Run "kubectl apply -f [podnetwork].yaml" with one of the options listed at:https://kubernetes.io/docs/concepts/cluster-administration/addons/Then you can join any number of worker nodes by running the following on each as root:kubeadm join 192.168.11.147:6443 --token mosffs.9c4krp4qbo7ox0fa \--discovery-token-ca-cert-hash sha256:6643599caaa15b516d08d8fa7ec7508e3d9a5224a478651f1380d5d12bbe6416 [root@k8s-master kubelet.service.d]#


太開心了,終于successfully了!

錯誤提示 部署CNI網絡插件

kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml
因為這個網址我們普通的網絡訪問不了,所以沒有辦法直接從網絡上下載

解決辦法

先自己下載好,上傳到服務器上,命名為kube-flannel.yml,直接利用這個文件即可

[root@k8s-master ningan]# kubectl apply -f kube-flannel.yml

此文件放在文章最后,供有需要的人參考!

錯誤提示 node1和node2 not ready


找了好久,終于被我解決了!

具體思路如下:
先按照上圖提示,master已經是ready狀態了,而node1和node2還是notready狀態;而且看到有問題的init:0/1和ContainerCreating都是node1和node2,所以推測問題肯定在這

先把兩個節點全部都刪除,先加一個進行嘗試:

我們看到有問題的pod是kube-proxy-njlgg,運行如下命令:(–namespace kube-system 一定要加,不加的話看不到具體信息)
(最重要的思路:kubectl describe pod kube-proxy-njlgg --namespace kube-system)

[root@k8s-master ningan]# kubectl describe pod kube-proxy-njlgg --namespace kube-system


如下圖,我們發現這些東西拉取不下來

解決辦法

后來琢磨了半天,覺得應該是node1中缺少了這些鏡像,因為master中這些鏡像已經下載好了,所以就在node1中下載好這些鏡像:
(最重要的解決辦法:在node1中下載好這些鏡像,先從國內源下載,在加tag)

[root@k8s-node1 ningan]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/pause:3.2 [root@k8s-node1 ningan]# docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/pause:3.2 k8s.gcr.io/pause:3.2 [root@k8s-node1 ningan]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/kube-proxy:v1.20.1 [root@k8s-node1 ningan]# docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/kube-proxy:v1.20.1 k8s.gcr.io/kube-proxy:v1.20.1

這時,master中:如果不行,就多輸幾遍命令,然后把kube-flannel.yml刪了再加進去,把node1刪了再加進去,因為有一個時間的問題,所以過一會就好了!



node2按照同樣的方法進行操作,也成功啦!



部署nginx,測試是否成功

錯誤提示

error execution phase preflight: couldn’t validate the identity of the API Server: Get “https://192.168.11.152:6443/api/v1/namespaces/kube-public/configmaps/cluster-info?timeout=10s”: x509: certificate has expired or is not yet valid: current time 2021-01-14T15:21:21+08:00 is before 2021-01-14T08:52:57Z To see the stack trace of this error execute with --v=5 or higher

解決辦法

同步master和node的時間,在master和node中都執行:

# 時間同步 yum install ntpdate -y ntpdate time.windows.com

問題 token過期怎么辦?

# 之前的 kubeadm join 192.168.11.152:6443 --token 2ee4bk.dmlglcduipwk7wyg \--discovery-token-ca-cert-hash sha256:7c205406380f65a0dcb365b5fcb51a510488e833a4b5441052180133acde1e8b# 重新生成token [root@k8s-master ningan]# kubeadm token create 33g27f.2g8khuprb54p8fdb [root@k8s-master ningan]# openssl x509 -pubkey -in /etc/kubernetes/pki/ca.crt | openssl rsa -pubin -outform der 2>/dev/null | openssl dgst -sha256 -hex | sed 's/^.* //' 7c205406380f65a0dcb365b5fcb51a510488e833a4b5441052180133acde1e8b# 新的 最好在前面加上 kubeadm reset kubeadm reset && kubeadm join 192.168.11.152:6443 --token 33g27f.2g8khuprb54p8fdb \--discovery-token-ca-cert-hash sha256:7c205406380f65a0dcb365b5fcb51a510488e833a4b5441052180133acde1e8b

問題:The connection to the server localhost:8080 was refused - did you specify the right host or port?

改為root用戶再執行就可以了

-----------

問題:ip地址變了怎么辦?二次安裝

在root用戶下修改host文件:改ip地址

[ningan@k8s-master ~]$ su [root@k8s-master ningan]# vim /etc/hosts

部署Kubernetes Master節點

[root@k8s-master ningan]# kubeadm init --apiserver-advertise-address=192.168.11.155 --image-repository registry.aliyuncs.com/google_containers --kubernetes-version v1.20.1 --service-cidr=10.96.0.0/12 --pod-network-cidr=10.244.0.0/16

出現問題:
[ERROR Port-6443]: Port 6443 is in use
[ERROR Port-10259]: Port 10259 is in use
[ERROR Port-10257]: Port 10257 is in use
[ERROR FileAvailable–etc-kubernetes-manifests-kube-apiserver.yaml]: /etc/kubernetes/manifests/kube-apiserver.yaml already exists
[ERROR FileAvailable–etc-kubernetes-manifests-kube-controller-manager.yaml]: /etc/kubernetes/manifests/kube-controller-manager.yaml already exists
[ERROR FileAvailable–etc-kubernetes-manifests-kube-scheduler.yaml]: /etc/kubernetes/manifests/kube-scheduler.yaml already exists
[ERROR FileAvailable–etc-kubernetes-manifests-etcd.yaml]: /etc/kubernetes/manifests/etcd.yaml already exists
[ERROR Port-10250]: Port 10250 is in use
[ERROR Port-2379]: Port 2379 is in use
[ERROR Port-2380]: Port 2380 is in use
[ERROR DirAvailable–var-lib-etcd]: /var/lib/etcd is not empty

加入kubeadm reset,重新部署

[root@k8s-master ningan]# kubeadm reset && kubeadm init --apiserver-advertise-address=192.168.11.155 --image-repository registry.aliyuncs.com/google_containers --kubernetes-version v1.20.1 --service-cidr=10.96.0.0/12 --pod-network-cidr=10.244.0.0/16

master節點部署成功!

在master節點執行:

mkdir -p $HOME/.kube sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config sudo chown $(id -u):$(id -g) $HOME/.kube/config

發現master節點已經處于ready狀態

在node1節點上執行(node1和node2同步執行,因為他們的角色是一樣的)

[root@k8s-node1 ningan]# kubeadm join 192.168.11.155:6443 --token cwxtdy.9u4jljdiy6raxlkw \ > --discovery-token-ca-cert-hash sha256:bdd3952d858d19f46e6d2a281d3596c7f4d6b0850e02c92499735d03968e8bb5

出現錯誤:

建議:只要看到這種already exists的,都在前面加上kubeadm reset

加上之后,繼續在node1上執行:

[root@k8s-node1 ningan]# kubeadm reset && kubeadm join 192.168.11.155:6443 --token cwxtdy.9u4jljdiy6raxlkw --discovery-token-ca-cert-hash sha256:bdd3952d858d19f46e6d2a281d3596c7f4d6b0850e02c92499735d03968e8bb5

你會發現:它會一直卡在 [WARNING Hostname]: hostname “k8s-node1”: lookup k8s-node1 on 192.168.11.2:53: no such host,過了好久好久(不知道有多久),會提示:error execution phase preflight: couldn’t validate the identity of the API Server: Get “https://192.168.11.155:6443/api/v1/namespaces/kube-public/configmaps/cluster-info?timeout=10s”: x509: certificate has expired or is not yet valid: current time 2021-01-15T05:22:28+08:00 is before 2021-01-16T01:46:52Z
To see the stack trace of this error execute with --v=5 or higher

這個問題是因為時間沒有同步造成的,在master、node1和node2都執行時間同步

# 時間同步 yum install ntpdate -y #選擇性執行 ntpdate time.windows.com

之后在node1上再次執行:

[root@k8s-node1 ningan]# kubeadm reset && kubeadm join 192.168.11.155:6443 --token cwxtdy.9u4jljdiy6raxlkw --discovery-token-ca-cert-hash sha256:bdd3952d858d19f46e6d2a281d3596c7f4d6b0850e02c92499735d03968e8bb5

執行成功!

回到master節點查看:都已經部署成功!大功告成!

-----------

kube-flannel.yml

https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml 該網站的內容:

--- apiVersion: policy/v1beta1 kind: PodSecurityPolicy metadata:name: psp.flannel.unprivilegedannotations:seccomp.security.alpha.kubernetes.io/allowedProfileNames: docker/defaultseccomp.security.alpha.kubernetes.io/defaultProfileName: docker/defaultapparmor.security.beta.kubernetes.io/allowedProfileNames: runtime/defaultapparmor.security.beta.kubernetes.io/defaultProfileName: runtime/default spec:privileged: falsevolumes:- configMap- secret- emptyDir- hostPathallowedHostPaths:- pathPrefix: "/etc/cni/net.d"- pathPrefix: "/etc/kube-flannel"- pathPrefix: "/run/flannel"readOnlyRootFilesystem: false# Users and groupsrunAsUser:rule: RunAsAnysupplementalGroups:rule: RunAsAnyfsGroup:rule: RunAsAny# Privilege EscalationallowPrivilegeEscalation: falsedefaultAllowPrivilegeEscalation: false# CapabilitiesallowedCapabilities: ['NET_ADMIN', 'NET_RAW']defaultAddCapabilities: []requiredDropCapabilities: []# Host namespaceshostPID: falsehostIPC: falsehostNetwork: truehostPorts:- min: 0max: 65535# SELinuxseLinux:# SELinux is unused in CaaSPrule: 'RunAsAny' --- kind: ClusterRole apiVersion: rbac.authorization.k8s.io/v1 metadata:name: flannel rules: - apiGroups: ['extensions']resources: ['podsecuritypolicies']verbs: ['use']resourceNames: ['psp.flannel.unprivileged'] - apiGroups:- ""resources:- podsverbs:- get - apiGroups:- ""resources:- nodesverbs:- list- watch - apiGroups:- ""resources:- nodes/statusverbs:- patch --- kind: ClusterRoleBinding apiVersion: rbac.authorization.k8s.io/v1 metadata:name: flannel roleRef:apiGroup: rbac.authorization.k8s.iokind: ClusterRolename: flannel subjects: - kind: ServiceAccountname: flannelnamespace: kube-system --- apiVersion: v1 kind: ServiceAccount metadata:name: flannelnamespace: kube-system --- kind: ConfigMap apiVersion: v1 metadata:name: kube-flannel-cfgnamespace: kube-systemlabels:tier: nodeapp: flannel data:cni-conf.json: |{"name": "cbr0","cniVersion": "0.3.1","plugins": [{"type": "flannel","delegate": {"hairpinMode": true,"isDefaultGateway": true}},{"type": "portmap","capabilities": {"portMappings": true}}]}net-conf.json: |{"Network": "10.244.0.0/16","Backend": {"Type": "vxlan"}} --- apiVersion: apps/v1 kind: DaemonSet metadata:name: kube-flannel-dsnamespace: kube-systemlabels:tier: nodeapp: flannel spec:selector:matchLabels:app: flanneltemplate:metadata:labels:tier: nodeapp: flannelspec:affinity:nodeAffinity:requiredDuringSchedulingIgnoredDuringExecution:nodeSelectorTerms:- matchExpressions:- key: kubernetes.io/osoperator: Invalues:- linuxhostNetwork: truepriorityClassName: system-node-criticaltolerations:- operator: Existseffect: NoScheduleserviceAccountName: flannelinitContainers:- name: install-cniimage: quay.io/coreos/flannel:v0.13.1-rc1command:- cpargs:- -f- /etc/kube-flannel/cni-conf.json- /etc/cni/net.d/10-flannel.conflistvolumeMounts:- name: cnimountPath: /etc/cni/net.d- name: flannel-cfgmountPath: /etc/kube-flannel/containers:- name: kube-flannelimage: quay.io/coreos/flannel:v0.13.1-rc1command:- /opt/bin/flanneldargs:- --ip-masq- --kube-subnet-mgrresources:requests:cpu: "100m"memory: "50Mi"limits:cpu: "100m"memory: "50Mi"securityContext:privileged: falsecapabilities:add: ["NET_ADMIN", "NET_RAW"]env:- name: POD_NAMEvalueFrom:fieldRef:fieldPath: metadata.name- name: POD_NAMESPACEvalueFrom:fieldRef:fieldPath: metadata.namespacevolumeMounts:- name: runmountPath: /run/flannel- name: flannel-cfgmountPath: /etc/kube-flannel/volumes:- name: runhostPath:path: /run/flannel- name: cnihostPath:path: /etc/cni/net.d- name: flannel-cfgconfigMap:name: kube-flannel-cfg

總結

以上是生活随笔為你收集整理的[错误解决]centos中使用kubeadm方式搭建一个单master的K8S集群的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

91免费观看网站 | 中文字幕一区二区三区四区 | 蜜臀一区二区三区精品免费视频 | www.久久久| 丁香六月欧美 | 亚洲精品免费播放 | 99久久综合精品五月天 | av免费高清观看 | 精品亚洲男同gayvideo网站 | 亚洲国产69| 久久综合国产伦精品免费 | 天天综合网在线观看 | 97在线免费视频 | 99re久久资源最新地址 | 久久精品国产一区二区三区 | 爱爱一区| 精品国产观看 | 9999激情| 精品国产1区二区 | 国产精品v a免费视频 | 亚洲 欧洲 国产 精品 | 色综合久久久久网 | 伊人五月综合 | 国产精品久久久 | 亚洲日本在线视频观看 | 欧美精品久久久久久久久久白贞 | 久久精品9 | 麻豆国产视频 | 久久免费的精品国产v∧ | 国产亚洲婷婷 | 日韩视频一区二区三区 | 成人蜜桃网 | 欧美三级高清 | 成人亚洲精品国产www | 亚洲一区二区天堂 | 91亚洲视频在线观看 | 久久久久久高潮国产精品视 | 亚洲综合日韩在线 | 91丨九色丨蝌蚪丨对白 | 亚洲综合成人专区片 | av电影在线观看完整版一区二区 | 亚洲欧洲精品一区二区精品久久久 | 免费视频黄色 | 99热都是精品| 欧美日韩国产综合一区二区 | 2023亚洲精品国偷拍自产在线 | 99视频在线观看一区三区 | 久久激情综合 | 99精品国产在热久久下载 | 精品国产黄色片 | 日本公乱妇视频 | 97人人澡人人爽人人模亚洲 | 成人综合婷婷国产精品久久免费 | av网站在线观看播放 | 伊人婷婷综合 | av大片免费看 | 国产成人免费高清 | 最新国产在线视频 | 日韩综合一区二区 | 国产一级在线视频 | 日日干视频 | 国产精品久久久久一区二区国产 | 久要激情网 | 日韩精品不卡 | 97精品国产97久久久久久春色 | 精品国产乱码 | 一区二区三区电影 | 日本久久成人中文字幕电影 | www亚洲精品| 亚洲天天摸日日摸天天欢 | 久久精品美女视频网站 | 91精品免费在线视频 | 国产亚洲精品久久久网站好莱 | 亚洲伊人婷婷 | a级国产乱理论片在线观看 伊人宗合网 | 91成人在线视频 | 天天操天天操一操 | 中文字幕123区 | 成年美女黄网站色大片免费看 | 国产精品 日韩 | 99免费国产 | 国产一区二区三区视频在线 | 亚洲伊人成综合网 | 日本精品中文字幕在线观看 | 欧美另类一二三四区 | 久久电影国产免费久久电影 | 视频一区视频二区在线观看 | 蜜桃视频日本 | 欧美一级片在线播放 | 国产精品18久久久久久久网站 | 日韩美av在线 | 首页av在线 | 久久精品成人热国产成 | 色综合久久88色综合天天免费 | 97精品久久人人爽人人爽 | 日日干网址 | 欧美aaa视频 | 五月婷婷狠狠 | 最新色站 | www亚洲一区 | 亚洲国产播放 | 玖玖视频免费在线 | 国产午夜精品一区 | 99精品免费久久久久久久久 | 香蕉久久久久 | 麻豆国产精品一区二区三区 | 四虎在线免费观看 | 欧美日韩在线观看视频 | 中文字幕av全部资源www中文字幕在线观看 | 97在线资源| 久久免费视频观看 | 亚洲最新视频在线播放 | 午夜国产福利在线观看 | 在线观看亚洲免费视频 | 狠狠狠狠狠狠天天爱 | 奇米影视999 | 久久精品—区二区三区 | 亚洲精品一区二区久 | 国产精品综合久久 | 免费在线观看av网址 | 国产亚洲视频中文字幕视频 | 国产精品一区久久久久 | 精品亚洲免费视频 | 日韩在线观看免费 | 日韩色中色 | 久草在线综合 | 麻豆视频国产在线观看 | 97精品超碰一区二区三区 | 青青射| 91精品国产91| 日本中文字幕影院 | 久久综合成人网 | 99人久久精品视频最新地址 | 天天搞天天 | 国产粉嫩在线观看 | 成人黄色在线 | 久草男人天堂 | 成人免费在线看片 | 亚洲美女精品视频 | 黄色精品免费 | 91av大全| 黄色毛片一级片 | 丁香资源影视免费观看 | 蜜桃av观看 | 色悠悠久久综合 | 中文字幕人成乱码在线观看 | 激情影音先锋 | 超碰com| 免费在线日韩 | 国产麻豆剧果冻传媒视频播放量 | 91传媒在线观看 | 久99精品 | 国内精品国产三级国产aⅴ久 | 一区二区 久久 | a黄色| 不卡的av中文字幕 | 亚洲日本黄色 | 亚洲 欧美 变态 国产 另类 | 国产精品99久久久久久久久久久久 | 亚洲精品综合久久 | www.操.com| av黄色免费看 | 夜夜操综合网 | 日韩午夜av | 成人观看视频 | 婷婷色网 | 欧美色伊人 | 美女视频久久 | 特级免费毛片 | 人人爽人人爽人人片av | 婷婷色婷婷 | 五月综合婷 | 国产在线精品一区二区三区 | 超碰人人99| 日韩欧美电影网 | 久久久免费毛片 | 久久九九免费视频 | 91在线看片 | 天天色天天爱天天射综合 | a久久久久 | 黄色av一级| 不卡电影一区二区三区 | 91av成人| 亚洲精选在线观看 | 国产亚洲一区 | 午夜美女福利 | 欧美国产日韩一区二区 | 欧美视频网址 | 综合国产在线 | 国内99视频 | 久久电影网站中文字幕 | 午夜免费福利视频 | 免费看久久 | 四虎亚洲精品 | 国产一区二区中文字幕 | 亚洲国产美女精品久久久久∴ | 免费网站色 | 亚洲免费不卡 | 91资源在线播放 | 亚洲黄色在线播放 | 中文字幕精品一区二区三区电影 | 日韩美在线观看 | 欧美精品二区 | 国产欧美三级 | 国产精品免费观看视频 | 超碰在线观看av.com | 欧美成亚洲 | 欧美色888 | 国产福利91精品一区二区三区 | 黄色在线观看免费网站 | 天天射射天天 | 国产精品99久久久久 | 亚洲成人av一区二区 | 久久久精品综合 | 国产福利a | 亚洲精品在线播放视频 | 中文在线中文a | 欧美日韩不卡一区 | 精品国产免费av | 日韩欧美视频免费观看 | 国产打女人屁股调教97 | 亚洲狠狠 | 免费在线观看av网址 | 日日天天av | 中文字幕精品www乱入免费视频 | 中文字幕免费高清 | 免费观看完整版无人区 | 国产一区二区在线影院 | а天堂中文最新一区二区三区 | 在线有码中文字幕 | 国产精品自产拍在线观看中文 | 97超碰人| 成人一区二区在线 | 毛片随便看 | 成人av电影在线 | 天天干com | 手机在线永久免费观看av片 | 麻豆视频免费在线观看 | 久久在视频 | 国产精品久久久久久久久久久久午夜片 | 99 久久久久 | 成人午夜电影网 | 亚洲国产一区在线观看 | 天天操综 | 亚洲 欧美日韩 国产 中文 | 亚洲成人国产 | 欧美日韩国产精品一区二区亚洲 | 波多野结衣综合网 | 日韩中文字 | 在线亚洲天堂网 | 最近中文字幕第一页 | 午夜久久影院 | 69国产精品成人在线播放 | 久久只精品99品免费久23小说 | 天堂av高清 | av免费观看网站 | 91精品在线观看视频 | 在线观看免费黄色 | 超碰夜夜 | 日韩三级视频在线观看 | 激情五月播播久久久精品 | 色婷婷在线播放 | 黄网av在线 | 婷婷综合 | 日韩视频中文字幕在线观看 | 久久久久久久影视 | 99精品久久久久久久久久综合 | 六月婷婷网 | 日韩特级黄色片 | 怡红院av久久久久久久 | 亚洲精品色婷婷 | 久久人人射 | 伊人伊成久久人综合网站 | 91精品久久久久 | 精品久久久久久亚洲 | 久久久国产日韩 | 国产在线观看91 | 色多视频在线观看 | 天天爱天天操天天射 | 超碰在线观看av | 久久精品第一页 | 97色婷婷人人爽人人 | 超碰在线免费福利 | 日韩欧美国产精品 | 96视频免费在线观看 | 99色精品视频| 久久久国产一区二区三区四区小说 | 午夜免费福利视频 | 日韩动漫免费观看高清完整版在线观看 | 欧美在线一二区 | 午夜久久久精品 | 黄色片软件网站 | 欧美日韩国产在线精品 | 亚洲精品资源 | av不卡免费在线观看 | 欧美视频日韩视频 | 丁香六月激情婷婷 | 亚洲一区二区观看 | 一级成人网 | 欧美一级特黄aaaaaa大片在线观看 | 欧美另类xxxx | 夜色资源网 | 日韩在线观看影院 | 免费av观看网站 | 在线 视频 亚洲 | 天天做天天干 | 2018精品视频 | 亚洲 欧美 变态 国产 另类 | av中文字幕日韩 | 99久久99久久综合 | 欧美日韩国产亚洲乱码字幕 | 四虎影视8848dvd | 日韩中文在线电影 | 亚洲成人影音 | 福利一区在线视频 | 天天看天天干天天操 | 日韩免费在线一区 | 欧美一级黄色片 | 又爽又黄又无遮挡网站动态图 | 中文字幕乱码电影 | av福利网址导航大全 | 人人射av| 精品色综合 | 日韩一区二区三区高清在线观看 | 91亚色视频| 99久久久国产精品美女 | 久久在线一区 | 99久久久久久久久 | 天天伊人狠狠 | 久久精品aaa| 狠狠操操网| 久久69av | av高清一区二区三区 | av电影中文字幕在线观看 | 999久久久久久久久久久 | 欧美一区二区在线免费观看 | 精品久久久久久久久久 | aa级黄色大片 | 98超碰在线观看 | 免费韩国av | 国产精品毛片久久久 | 91精品久久久久久久久 | 亚洲精品www久久久久久 | 91成人区 | 激情欧美国产 | 在线日本看片免费人成视久网 | 天天激情站 | 久久国产三级 | 国产偷国产偷亚洲清高 | 亚洲天堂视频在线 | 久久精品久久久精品美女 | 国产免费观看久久黄 | 麻豆精品传媒视频 | 国产精品久久久久9999吃药 | 日日操天天爽 | 日日夜夜噜噜噜 | 999久久国产精品免费观看网站 | av一级在线| 国产69精品久久久久久 | 亚洲一区天堂 | 国产一级不卡视频 | 精品在线视频一区二区三区 | 久久久精品在线观看 | 精品亚洲免a | 91在线网址| 视频成人永久免费视频 | 国产精品9999久久久久仙踪林 | 国内外激情视频 | 日本视频精品 | 久久 地址 | 97国产超碰| 婷婷精品国产欧美精品亚洲人人爽 | 亚洲最新av在线网址 | 91av99| 69欧美视频| 天天天天爱天天躁 | 91久草视频| 在线a亚洲视频播放在线观看 | 黄色精品视频 | 亚洲经典视频在线观看 | 久久综合九色综合网站 | 国产一级二级三级在线观看 | 日韩一区二区在线免费观看 | 毛片永久新网址首页 | 日韩午夜精品福利 | 美女网站在线播放 | 久久综合偷偷噜噜噜色 | 人人讲下载 | 在线观看91精品视频 | 天天色天天草天天射 | 久久久免费视频播放 | 天天干天天拍天天操天天拍 | 97超级碰碰碰碰久久久久 | 成人av一区二区在线观看 | 精品国产乱码久久久久久天美 | 国产亚洲va综合人人澡精品 | 国产精品一区二区久久精品爱微奶 | 亚洲综合成人在线 | 夜夜操天天摸 | 国产麻豆成人传媒免费观看 | 99精品久久久久久久久久综合 | 日本少妇视频 | 黄色99视频| 亚洲一区精品二人人爽久久 | 国产精品美女毛片真酒店 | 日韩免费视频一区二区 | 日韩伦理片一区二区三区 | 91福利在线观看 | 日韩在线观看你懂得 | 99久久综合狠狠综合久久 | 九九亚洲视频 | 在线亚洲日本 | 天天操福利视频 | 亚洲精品日韩一区二区电影 | 日韩中文字幕免费视频 | 人人爽人人爽人人片av免 | 在线a人v观看视频 | 激情文学综合丁香 | 亚洲天堂视频在线 | 欧美国产日韩一区二区 | 91少妇精拍在线播放 | 日韩xxxx视频 | 色香蕉在线视频 | 日韩精品三区四区 | 成人精品电影 | 国产精品毛片一区 | 国产视频在线播放 | 天海冀一区二区三区 | 欧美日韩在线观看一区二区 | 色婷婷伊人| 91大神精品视频在线观看 | 丁香在线| 国产精品情侣视频 | 99久久久久久 | 亚洲国产一区二区精品专区 | 日本中文字幕免费观看 | av成人免费在线观看 | 亚洲国产成人在线 | av一级一片 | 婷婷色网 | 国产精品久久久久久一二三四五 | 五月婷婷深开心 | 91av免费看 | 成人国产精品久久久久久亚洲 | 中文超碰字幕 | 麻豆传媒在线视频 | 日韩精品第1页 | 蜜桃视频在线视频 | 国产免费国产 | av电影在线播放 | 国产精品一区二区免费 | 1024手机在线看 | 最近日本mv字幕免费观看 | 激情久久久久久久久久久久久久久久 | 一区二区三区在线观看免费视频 | 久久天天躁狠狠躁夜夜不卡公司 | 色综合久久久久 | 美女网站久久 | 在线av资源 | 久久国产香蕉视频 | 国产亚洲精品久久19p | 人人爽人人爽 | 天天要夜夜操 | 99久久婷婷国产 | 亚洲人成人天堂h久久 | 色婷婷免费视频 | 国产视频不卡 | 日韩精品一区二区三区中文字幕 | 91一区一区三区 | 香蕉网在线观看 | 99久视频| 黄色av播放 | 婷婷网五月天 | 欧美日韩在线视频一区 | 激情丁香久久 | 久久国产精品第一页 | 亚洲精品美女久久久久 | 国产综合香蕉五月婷在线 | 96av视频 | 国产五月天婷婷 | 久久久国产精品久久久 | 久久精品久久久久 | 久久精品站 | 激情丁香婷婷 | 激情在线免费视频 | 不卡av在线| 丁香婷婷自拍 | 婷婷久久网 | 国产 色 | 欧美精品免费一区二区 | 欧美乱码精品一区二区 | av黄色在线观看 | 91大神在线观看视频 | 丁香综合av| 国产色影院 | 国产中文字幕一区二区三区 | 免费黄色网址网站 | 久久婷婷网 | 日韩久久久久久久久久久久 | 中文高清av | 四虎www. | 91完整版观看 | 九九视频精品免费 | 美女久久 | 日日夜夜狠狠操 | 中文字幕在线观看网站 | 婷婷伊人五月 | 91精品国产92久久久久 | 久久亚洲免费 | 免费在线成人av | 日韩精品久久久 | 国语黄色片 | 视频高清 | 国产精品久久久久久久久久久久午 | 青青射| 999免费视频 | 天堂在线v | 国产日韩欧美视频 | 久久婷亚洲五月一区天天躁 | 久久国产电影 | 亚洲国产精品日韩 | 99亚洲精品 | 日韩精品中文字幕久久臀 | 久久电影色 | 久草在线视频看看 | 91精品久久久久久久久 | 91在线免费视频 | 91在线看视频免费 | 欧美十八 | 中文字幕中文字幕在线中文字幕三区 | 日本三级不卡 | 亚洲高清国产视频 | 999久久久久久久久6666 | 91九色成人蝌蚪首页 | 国产免费一区二区三区最新6 | 久草在线观看资源 | 中文字幕亚洲欧美 | 午夜美女福利 | 正在播放国产一区二区 | 午夜少妇一区二区三区 | 国产精品不卡在线播放 | 国产视频在线免费 | 久久99网 | www.黄色网.com | 欧美一级大片在线观看 | 精品国产123 | 欧美亚洲精品一区 | 狠狠色丁香婷婷综合久久片 | 亚洲一区 影院 | 国产手机av| 国产精品一区欧美 | 超碰人人舔 | 国产91精品一区二区绿帽 | 一区二区三区在线视频111 | 亚洲午夜电影网 | 国产成人三级在线 | 四虎亚洲精品 | 国产成人一区二区三区久久精品 | 狠狠狠色丁香婷婷综合久久五月 | 91视频88av | 狠狠狠干 | 五月天久久久久久 | 黄色a级片在线观看 | 亚洲精品永久免费视频 | 亚洲九九影院 | 在线观看精品黄av片免费 | 国产美女搞久久 | 亚洲精品高清在线观看 | 91传媒在线| 国产精品男女视频 | 精品一区二区三区久久久 | 在线观看av网 | 色婷婷啪啪免费在线电影观看 | 国产亚洲精品美女久久 | 日日夜夜免费精品视频 | 日韩av手机在线观看 | 六月丁香综合网 | 久久免费公开视频 | 91视频在线免费下载 | 一区二区精品视频 | 六月色婷 | 国内精品久久久久影院日本资源 | 国产一级性生活视频 | 精品无人国产偷自产在线 | 偷拍福利视频一区二区三区 | 毛片网站在线观看 | 天天射天天爱天天干 | 亚洲综合激情五月 | 五月激情婷婷丁香 | 日韩av手机在线观看 | 亚洲蜜桃在线 | 久久国产一区二区 | 日韩精品视频在线观看网址 | 日本三级全黄少妇三2023 | 国产在线美女 | 亚洲一区二区视频在线 | 欧美精品一二三 | 亚洲午夜在线视频 | 日本公乱妇视频 | 91丨九色丨91啦蝌蚪老版 | 久久精品久久久精品美女 | 黄色av播放| 91精品第一页 | 久久精品视频在线免费观看 | 久久久九色精品国产一区二区三区 | 激情五月婷婷综合 | 精品电影一区二区 | 天天曰视频 | 日本三级久久久 | 精品国产久 | 欧美日韩国产在线精品 | 丁香九月激情综合 | 午夜精品久久久久久久99热影院 | 91久久丝袜国产露脸动漫 | 四虎在线免费 | 久久伊人精品天天 | 日韩av成人在线观看 | 欧美日韩国产综合一区二区 | 97精品国产91久久久久久 | 奇米7777狠狠狠琪琪视频 | 91成人久久 | 欧美a视频在线观看 | 国产精品免费不卡 | 色婷婷在线播放 | 欧美伦理一区二区三区 | 亚洲国产综合在线 | 99精品乱码国产在线观看 | 欧美激情视频一区二区三区免费 | 黄色大片视频网站 | 婷婷久久久久 | 亚洲一区二区观看 | 婷婷六月中文字幕 | 亚洲综合视频在线 | 色综合久久99 | 蜜臀av性久久久久蜜臀aⅴ涩爱 | 亚洲一级免费电影 | 国产精品乱码高清在线看 | 天天爱天天操 | 成人国产精品久久久久久亚洲 | 精品国产乱码久久 | 超碰在线97观看 | 区一区二在线 | 欧美a级免费视频 | 国产成人久久久久 | 婷婷综合影院 | 丁香色综合 | 中文字幕在线观看完整版电影 | 精品久久久久久久久久久久久久久久久久 | www免费网站在线观看 | 国产精品久久久久久久7电影 | 亚洲精品午夜aaa久久久 | 在线91观看 | 人人澡超碰碰 | 欧美一区二区三区不卡 | 蜜臀av性久久久久蜜臀aⅴ四虎 | 国产成人精品一区二区三区免费 | 日日麻批40分钟视频免费观看 | 天天射天天干天天爽 | 人人看人人 | 国产黄| 日韩激情中文字幕 | 亚洲乱码久久 | 最近乱久中文字幕 | 国产免费小视频 | 96av视频| 午夜国产福利视频 | 狠狠艹夜夜干 | 久久综合九色综合97婷婷女人 | 视频在线观看91 | av综合av| 91麻豆精品国产自产 | 五月婷网站 | www.一区二区三区 | 天天射射天天 | 亚洲激情 欧美激情 | 97视频免费在线 | 91精品国产综合久久久久久久 | 激情欧美丁香 | 欧美狠狠操 | 超碰在线91| 久草在线久 | 日日干日日 | 免费av在线| 最新国产中文字幕 | 国产二区精品 | 天天干天天做 | 日韩欧美高清免费 | 91av电影在线 | 久久这里只有精品视频99 | 免费看污黄网站 | 欧美大片在线观看一区 | 人人要人人澡人人爽人人dvd | 日韩在线无 | 2022久久国产露脸精品国产 | 成人资源在线观看 | 丁香六月av | 免费视频在线观看网站 | 久久精品国产亚洲 | 免费日韩 精品中文字幕视频在线 | 国产成人福利片 | 十八岁免进欧美 | 中文字幕人成乱码在线观看 | 伊人资源站 | 日韩久久久久久久久 | 国产一级二级av | 国产精品乱码久久 | 五月导航 | 婷婷伊人五月 | 久久久久综合精品福利啪啪 | 日韩网站在线播放 | 欧美成人高清 | 亚洲精品网站 | 亚洲电影图片小说 | 欧美日韩高清一区二区 | 九九爱免费视频 | 国产精品久久久久久久久久不蜜月 | 在线免费av网站 | 久久99国产一区二区三区 | 一区二区三区日韩精品 | 人人干人人草 | av在线收看| 在线观看日韩国产 | 97超碰成人在线 | 亚州免费视频 | 中文字幕国产精品一区二区 | 国产精品免费不卡 | 成人黄色在线 | 日韩欧美电影网 | 91免费日韩 | 久久精品视频在线免费观看 | 久久99国产综合精品 | 国产视频精品在线 | 中文有码在线 | 五月婷婷操 | 国产亚洲精品久久久久久久久久久久 | 久久精品人人做人人综合老师 | www.狠狠 | 天天综合狠狠精品 | 丁香婷五月 | 精品久久久久久一区二区里番 | 在线亚洲人成电影网站色www | 精品国产99 | 国产一区在线视频播放 | 亚洲精品乱码久久久久久久久久 | 欧美性色黄大片在线观看 | 一区二区三区韩国免费中文网站 | 一区中文字幕电影 | 91精品国产综合久久婷婷香蕉 | 99热这里只有精品1 av中文字幕日韩 | 九九导航| 欧美综合在线视频 | 国产精品毛片久久蜜 | 中文字幕丝袜一区二区 | 99国产情侣在线播放 | 婷色| 九九久久国产 | 国产尤物在线观看 | 91精品国产自产91精品 | 91精品国自产在线偷拍蜜桃 | 精品视频国产一区 | 香蕉久草在线 | 精品网站999www | 国精产品999国精产品岳 | 中文字幕丰满人伦在线 | 丁香婷婷久久久综合精品国产 | 丁香 婷婷 激情 | 亚洲日本黄色 | 日日夜夜骑 | 欧美精品久久久久久久久老牛影院 | 久久精品五月 | 国产一级特黄毛片在线毛片 | 国产二级视频 | 日本一区二区三区免费看 | 狠狠狠色| 色人久久 | 四虎国产视频 | 久久久精品久久日韩一区综合 | 日韩在线视频免费播放 | 国产成人精品午夜在线播放 | 国产精品欧美一区二区 | 一区二区三区日韩视频在线观看 | 久久婷婷精品 | 香蕉视频导航 | 看毛片网站 | 91天堂在线观看 | 久久呀| 女女av在线 | 亚洲精品久久久蜜臀下载官网 | 97超碰人人模人人人爽人人爱 | 夜夜躁狠狠躁日日躁视频黑人 | 黄色一区三区 | 欧美a级成人淫片免费看 | 免费精品国产 | 亚洲免费视频观看 | 亚洲精品乱码久久久久久按摩 | 亚洲高清av | 久久综合狠狠综合 | 国产一区在线不卡 | av一二三区 | 成人网在线免费视频 | 中文字幕在线观看你懂的 | 久久精品一区二区三区国产主播 | 久久综合婷婷 | 国产九九九精品视频 | 欧美成人xxxxx | 亚洲精品成人网 | 99久久精品日本一区二区免费 | 日韩久久久久久久久 | 成人性生交大片免费观看网站 | 久久久精品成人 | jizz18欧美18| 成人天堂网 | 91成人精品一区在线播放69 | 五月天开心 | 国产97在线观看 | 自拍超碰在线 | av在线免费不卡 | 久草在线高清视频 | 国产日韩在线视频 | 色综合久久久久久久久五月 | 成人av电影免费在线播放 | 亚洲丁香日韩 | 免费av试看 | 久久艹国产| 91视频观看免费 | 国产手机视频在线 | 国产精品一区二区三区99 | 波多野结衣视频一区二区三区 | 精品999 | 国产亚洲精品久久 | 制服丝袜欧美 | 中文字幕在线观看视频免费 | 国产在线91精品 | 91久久精品日日躁夜夜躁国产 | 在线视频国产区 | 五月婷婷狠狠 | 国产精品久久久久久久久久久久午夜 | 五月婷婷在线播放 | 91资源在线播放 | 精品一区精品二区高清 | 久久国产色 | 综合亚洲视频 | 欧美一级特黄aaaaaa大片在线观看 | 18av在线视频| 日韩高清在线一区二区三区 | 成年人电影免费看 | 国产日韩精品在线 | 美女视频黄是免费的 | 免费特级黄色片 | 亚洲二级片| 免费在线观看视频一区 | 中文字幕丝袜美腿 | 日韩一区二区三区免费视频 | 中文字幕在线观看免费观看 | 81国产精品久久久久久久久久 | 四虎成人av | 国产精品三级视频 | 欧美天天综合 | 999精品在线 | 夜夜骑天天操 | 日韩欧美在线一区 | 国产美女网站视频 | 久久激情精品 | 日黄网站| 亚洲做受高潮欧美裸体 | 精品96久久久久久中文字幕无 | av短片在线观看 | 久久久精品久久 | 亚洲第二色 | 狠狠激情中文字幕 | 99热这里有| 久久久久久久久艹 | 中文字幕无吗 | 国产男女免费完整视频 | 91黄站| 高清一区二区三区av | 精品亚洲成人 | 99在线播放 | 中文字幕电影网 | 成 人 黄 色 视频播放1 | 精品国产一区二区三区久久久蜜月 | 中文字幕在线视频一区 | 国产一区二区三区在线 | 国内精品视频在线播放 | 91九色在线视频观看 | 国产一区在线免费观看视频 | 日韩视频一区二区 | 玖玖在线资源 | 国产麻豆视频免费观看 | 欧美日韩高清一区二区 国产亚洲免费看 | 午夜成人免费影院 | a午夜电影 | 亚洲综合成人av | 中文字幕一区二 | 日韩在线中文字幕视频 | 最近的中文字幕大全免费版 | 亚洲黄色在线观看 | 亚洲精品av中文字幕在线在线 | 久久午夜鲁丝片 | 色噜噜噜噜 | 正在播放国产一区二区 | 夜夜躁狠狠躁日日躁视频黑人 | 丁香六月婷 | 亚洲精品国产精品久久99热 | 伊人一级| 国产女人免费看a级丨片 | 亚洲婷婷在线 | 91一区在线观看 | 中文国产字幕在线观看 | 久久人人爽人人爽 | 91在线色| 精品麻豆入口免费 | 国产精品在线看 | 国产一卡在线 | 久久99久| 久久6精品| 久久免费国产精品 | 日韩免费电影网 | aaaaaa毛片 | 日韩视频专区 | 国产99久久久国产精品免费看 | 日韩精品中文字幕久久臀 | 天天操夜夜操 | 国产亚洲成av人片在线观看桃 | 亚洲激情 | 国产五月| 四虎伊人| 精品在线亚洲视频 | 6080yy精品一区二区三区 | 99视频在线免费播放 | 亚洲精品国产精品国自 | 成人av电影免费在线播放 | 亚洲一级性 | 五月天堂网 | 亚洲国产精品成人av | 九九免费在线观看 | 久久九九精品久久 | 精品一区免费 | 国产一级一片免费播放放a 一区二区三区国产欧美 | 国产精品久久艹 | 久久人人爽人人爽人人片av免费 | 成人永久免费 | 亚洲九九| 天天操天天操 | 日韩免费二区 | 五月婷婷激情综合网 | 午夜久操 | 午夜精品999 | 免费黄在线观看 | 免费91在线 | 97视频在线看 | 久章操| 极品久久久久 | 国产一级二级三级在线观看 | 一本之道乱码区 | 瑞典xxxx性hd极品 | 999久久久欧美日韩黑人 | 在线观看黄网站 | av经典在线 | 91激情视频在线播放 | 国产在线看 | 成人丝袜 | 久草视频在线资源站 | 精品一区免费 | 色播五月激情五月 | 成人国产精品一区二区 | 国产黄色电影 | 狠狠狠色丁香婷婷综合久久88 | 久一网站 | 久久久亚洲精华液 | 日韩啪啪小视频 | 一级片色播影院 | 国产视频久久久 | 91人人射| 久久免费精品 | 麻豆果冻剧传媒在线播放 | 久久久久伦理电影 | 在线免费观看国产精品 | 欧美色图亚洲图片 | 日韩在线免费 | 国产精品一区二区三区久久久 | 国产午夜免费视频 | 国产日韩在线看 | 免费成视频| 狠狠色丁香久久婷婷综合丁香 | 香蕉视频在线免费看 | 天天色天天操天天爽 | 国内精品久久久久国产 | 欧美一级在线看 | 91免费观看国产 | 黄色一级性片 | 96av在线| 在线观看aaa| 精品人人人 | 三级a毛片| 黄污网站在线 | 激情五月激情综合网 | 精品免费久久久久久 |