日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

云原生|kubernetes|minikube的部署安装完全手册(修订版)

發布時間:2024/1/8 编程问答 55 豆豆
生活随笔 收集整理的這篇文章主要介紹了 云原生|kubernetes|minikube的部署安装完全手册(修订版) 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

前言:

學習一個新平臺首先當然是能夠有這么一個平臺了,而kubernetes的部署安裝無疑是提高了這一學習的門檻,不管是二進制安裝還是kubeadm安裝都還是需要比較多的運維技巧的,并且在搭建學習的時候,需要的硬件資源也是比較多的,至少都需要三臺或者三臺以上的服務器才能夠完成部署安裝。

那么,kind或者minikube這樣的工具就是一個能夠快速的搭建出學習平臺的工具,特點是簡單,易用,一臺服務器的資源就可以搞定了(只是單機需要的內存大一些,建議至少8G內存吧),自動化程度高,基本什么都給你設置好了,并且支持多種虛擬化引擎,比如,docker,container,kvm這些常用的虛擬化引擎都支持。缺點是基本沒有定制化。

minikube支持的虛擬化引擎:

?好了,本教程大部分資料都是從官網的docs里扒的,docs的網址是:Welcome! | minikube




相關安裝部署文件(conntrack.tar.gz解壓后,rpm -ivh * 安裝就可以了,是相關依賴,minikube-images.tar.gz是鏡像包,解壓后倒入docker,三個可執行文件放入/root/.minikube/cache/linux/amd64/v1.18.8/目錄下即可。):

鏈接:https://pan.baidu.com/s/14-r59VfpZRpfiVGj4IadxA?pwd=k8ss?
提取碼:k8ss?

?

一,

get started minikube(開始部署minkube)

安裝部署前的先決條件

至少兩個CPU,2G內存,20G空余磁盤空間,可訪問互聯網,有一個虛擬化引擎,?Docker, Hyperkit, Hyper-V, KVM, Parallels, Podman, VirtualBox, or VMware Fusion/Workstation其中的一個,那么,docker是比較容易安裝的,就不說了,docker吧,操作系統是centos。

What you’ll need 2 CPUs or more 2GB of free memory 20GB of free disk space Internet connection Container or virtual machine manager, such as: Docker, Hyperkit, Hyper-V, KVM, Parallels, Podman, VirtualBox, or VMware Fusion/Workstation

docker的離線安裝以及本地化配置_zsk_john的博客-CSDN博客?離線安裝docker環境的博文,照此做就可以了,請確保docker環境是安裝好的。

docker版本至少是18.09到20.10

二,

開始安裝

下載minikube的執行程序

curl -LO https://storage.googleapis.com/minikube/releases/latest/minikube-linux-amd64 sudo install minikube-linux-amd64 /usr/local/bin/minikube

三,

導入鏡像

由于minikube在安裝kubernetes的時候使用的鏡像是從外網拉取的,國內由于被墻是無法拉取的,因此,制作了這個離線鏡像包。

[root@slave3 ~]# tar zxf minikube-images.tar.gz [root@slave3 ~]# cd minikube-images [root@slave3 minikube-images]# for i in `ls ./*`;do docker load <$i;done dfccba63d0cc: Loading layer [==================================================>] 80.82MB/80.82MB Loaded image: gcr.io/k8s-minikube/storage-provisioner:v1.8.1 225df95e717c: Loading layer [==================================================>] 336.4kB/336.4kB c965b38a6629: Loading layer [==================================================>] 43.58MB/43.58MB 。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。略略略

四,

初始化kubernetes集群的命令:

這里大概介紹一下,image-repostory是使用阿里云下載鏡像,cni是指定網絡插件就用flannel,如果不想用這個刪掉這行就可以了,其它沒什么要注意的。

minikube config set driver none minikube start pod-network-cidr='10.244.0.0/16'\--extra-config=kubelet.pod-cidr=10.244.0.0/16 \--network-plugin=cni \--image-repository='registry.aliyuncs.com/google_containers' \--cni=flannel \--apiserver-ips=192.168.217.23 \--kubernetes-version=1.18.8 \--vm-driver=none

啟動集群的日志

[root@slave3 conntrack]# minikube start --driver=none --kubernetes-version=1.18.8 * minikube v1.26.1 on Centos 7.4.1708 * Using the none driver based on user configuration * Starting control plane node minikube in cluster minikube * Running on localhost (CPUs=4, Memory=7983MB, Disk=51175MB) ... * OS release is CentOS Linux 7 (Core) E0911 11:23:25.121495 14039 docker.go:148] "Failed to enable" err=<sudo systemctl enable docker.socket: exit status 1stdout:stderr:Failed to execute operation: No such file or directory> service="docker.socket" ! This bare metal machine is having trouble accessing https://k8s.gcr.io * To pull new external images, you may need to configure a proxy: https://minikube.sigs.k8s.io/docs/reference/networking/proxy/> kubectl.sha256: 65 B / 65 B [-------------------------] 100.00% ? p/s 0s> kubelet: 108.05 MiB / 108.05 MiB [--------] 100.00% 639.49 KiB p/s 2m53s - Generating certificates and keys ...- Booting up control plane ... ! initialization failed, will try again: wait: /bin/bash -c "sudo env PATH="/var/lib/minikube/binaries/v1.18.8:$PATH" kubeadm init --config /var/tmp/minikube/kubeadm.yaml --ignore-preflight-errors=DirAvailable--etc-kubernetes-manifests,DirAvailable--var-lib-minikube,DirAvailable--var-lib-minikube-etcd,FileAvailable--etc-kubernetes-manifests-kube-scheduler.yaml,FileAvailable--etc-kubernetes-manifests-kube-apiserver.yaml,FileAvailable--etc-kubernetes-manifests-kube-controller-manager.yaml,FileAvailable--etc-kubernetes-manifests-etcd.yaml,Port-10250,Swap": exit status 1 stdout: [init] Using Kubernetes version: v1.18.8 [preflight] Running pre-flight checks [preflight] Pulling images required for setting up a Kubernetes cluster [preflight] This might take a minute or two, depending on the speed of your internet connection [preflight] You can also perform this action in beforehand using 'kubeadm config images pull' [kubelet-start] Writing kubelet environment file with flags to file "/var/lib/kubelet/kubeadm-flags.env" [kubelet-start] Writing kubelet configuration to file "/var/lib/kubelet/config.yaml" [kubelet-start] Starting the kubelet [certs] Using certificateDir folder "/var/lib/minikube/certs" [certs] Using existing ca certificate authority [certs] Using existing apiserver certificate and key on disk [certs] Generating "apiserver-kubelet-client" certificate and key [certs] Generating "front-proxy-ca" certificate and key [certs] Generating "front-proxy-client" certificate and key [certs] Generating "etcd/ca" certificate and key [certs] Generating "etcd/server" certificate and key [certs] etcd/server serving cert is signed for DNS names [slave3 localhost] and IPs [192.168.217.136 127.0.0.1 ::1] [certs] Generating "etcd/peer" certificate and key [certs] etcd/peer serving cert is signed for DNS names [slave3 localhost] and IPs [192.168.217.136 127.0.0.1 ::1] [certs] Generating "etcd/healthcheck-client" certificate and key [certs] Generating "apiserver-etcd-client" certificate and key [certs] Generating "sa" key and public key [kubeconfig] Using kubeconfig folder "/etc/kubernetes" [kubeconfig] Writing "admin.conf" kubeconfig file [kubeconfig] Writing "kubelet.conf" kubeconfig file [kubeconfig] Writing "controller-manager.conf" kubeconfig file [kubeconfig] Writing "scheduler.conf" kubeconfig file [control-plane] Using manifest folder "/etc/kubernetes/manifests" [control-plane] Creating static Pod manifest for "kube-apiserver" [control-plane] Creating static Pod manifest for "kube-controller-manager" [control-plane] Creating static Pod manifest for "kube-scheduler" [etcd] Creating static Pod manifest for local etcd in "/etc/kubernetes/manifests" [wait-control-plane] Waiting for the kubelet to boot up the control plane as static Pods from directory "/etc/kubernetes/manifests". This can take up to 4m0s [kubelet-check] Initial timeout of 40s passed. [kubelet-check] It seems like the kubelet isn't running or healthy. [kubelet-check] The HTTP call equal to 'curl -sSL http://localhost:10248/healthz' failed with error: Get http://localhost:10248/healthz: dial tcp [::1]:10248: connect: connection refused. [kubelet-check] It seems like the kubelet isn't running or healthy. [kubelet-check] The HTTP call equal to 'curl -sSL http://localhost:10248/healthz' failed with error: Get http://localhost:10248/healthz: dial tcp [::1]:10248: connect: connection refused. [kubelet-check] It seems like the kubelet isn't running or healthy. [kubelet-check] The HTTP call equal to 'curl -sSL http://localhost:10248/healthz' failed with error: Get http://localhost:10248/healthz: dial tcp [::1]:10248: connect: connection refused. [kubelet-check] It seems like the kubelet isn't running or healthy. [kubelet-check] The HTTP call equal to 'curl -sSL http://localhost:10248/healthz' failed with error: Get http://localhost:10248/healthz: dial tcp [::1]:10248: connect: connection refused. [kubelet-check] It seems like the kubelet isn't running or healthy. [kubelet-check] The HTTP call equal to 'curl -sSL http://localhost:10248/healthz' failed with error: Get http://localhost:10248/healthz: dial tcp [::1]:10248: connect: connection refused.Unfortunately, an error has occurred:timed out waiting for the conditionThis error is likely caused by:- The kubelet is not running- The kubelet is unhealthy due to a misconfiguration of the node in some way (required cgroups disabled)If you are on a systemd-powered system, you can try to troubleshoot the error with the following commands:- 'systemctl status kubelet'- 'journalctl -xeu kubelet'Additionally, a control plane component may have crashed or exited when started by the container runtime.To troubleshoot, list all containers using your preferred container runtimes CLI.Here is one example how you may list all Kubernetes containers running in docker:- 'docker ps -a | grep kube | grep -v pause'Once you have found the failing container, you can inspect its logs with:- 'docker logs CONTAINERID'stderr: W0911 11:26:38.783101 14450 configset.go:202] WARNING: kubeadm cannot validate component configs for API groups [kubelet.config.k8s.io kubeproxy.config.k8s.io][WARNING IsDockerSystemdCheck]: detected "cgroupfs" as the Docker cgroup driver. The recommended driver is "systemd". Please follow the guide at https://kubernetes.io/docs/setup/cri/[WARNING Swap]: running with swap on is not supported. Please disable swap[WARNING FileExisting-socat]: socat not found in system path[WARNING Service-Kubelet]: kubelet service is not enabled, please run 'systemctl enable kubelet.service' W0911 11:26:48.464749 14450 manifests.go:225] the default kube-apiserver authorization-mode is "Node,RBAC"; using "Node,RBAC" W0911 11:26:48.466754 14450 manifests.go:225] the default kube-apiserver authorization-mode is "Node,RBAC"; using "Node,RBAC" error execution phase wait-control-plane: couldn't initialize a Kubernetes cluster To see the stack trace of this error execute with --v=5 or higher- Generating certificates and keys ...- Booting up control plane ...- Configuring RBAC rules ... * Configuring local host environment ... * ! The 'none' driver is designed for experts who need to integrate with an existing VM * Most users should use the newer 'docker' driver instead, which does not require root! * For more information, see: https://minikube.sigs.k8s.io/docs/reference/drivers/none/ * ! kubectl and minikube configuration will be stored in /root ! To use kubectl or minikube commands as your own user, you may need to relocate them. For example, to overwrite your own settings, run: * - sudo mv /root/.kube /root/.minikube $HOME- sudo chown -R $USER $HOME/.kube $HOME/.minikube * * This can also be done automatically by setting the env var CHANGE_MINIKUBE_NONE_USER=true * Verifying Kubernetes components...- Using image gcr.io/k8s-minikube/storage-provisioner:v5 * Enabled addons: storage-provisioner, default-storageclass * Done! kubectl is now configured to use "minikube" cluster and "default" namespace by default

minikube的停止和刪除:?

如果這個集群想停止的話,那么命令就非常簡單了:

minkube stop 輸出如下; * Stopping "minikube" in none ... * Node "minikube" stopped.

如果重啟了服務器,那么,只需要參數換成start就可以再次啟動minikube了。刪除minkube也非常簡單,參數換成 delete即可,這個刪除會將配置文件什么的都給刪除掉,前提這些文件是minikube自己建立的,否則不會刪除。

start的輸出:

[root@node3 manifests]# minikube start * minikube v1.12.0 on Centos 7.4.1708 * Using the none driver based on existing profile * Starting control plane node minikube in cluster minikube * Restarting existing none bare metal machine for "minikube" ... * OS release is CentOS Linux 7 (Core) * Preparing Kubernetes v1.18.8 on Docker 19.03.9 ... * Configuring local host environment ... * ! The 'none' driver is designed for experts who need to integrate with an existing VM * Most users should use the newer 'docker' driver instead, which does not require root! * For more information, see: https://minikube.sigs.k8s.io/docs/reference/drivers/none/ * ! kubectl and minikube configuration will be stored in /root ! To use kubectl or minikube commands as your own user, you may need to relocate them. For example, to overwrite your own settings, run: * - sudo mv /root/.kube /root/.minikube $HOME- sudo chown -R $USER $HOME/.kube $HOME/.minikube * * This can also be done automatically by setting the env var CHANGE_MINIKUBE_NONE_USER=true * Verifying Kubernetes components... * Enabled addons: default-storageclass, storage-provisioner * Done! kubectl is now configured to use "minikube"

?

以上的輸出表明kubernetes單節點集群已經安裝成功了,但有一些警告需要處理:

(1)

關于kubeadmin,kubelet,kubectl這三個命令的緩存

> kubectl.sha256: 65 B / 65 B [-------------------------] 100.00% ? p/s 0s> kubelet: 108.05 MiB / 108.05 MiB [--------] 100.00% 639.49 KiB p/s 2m53s

這幾個命令是下載到/root/.minikube/cache/linux/amd64/v1.18.8/這個目錄下的,因此,想要提高速度,離線化部署就需要這么做:

建立以上的目錄:

mkdir -p /root/.minikube/cache/linux/amd64/v1.18.8/

給文件賦予權限并拷貝文件到這個目錄下:

chmod a+x kube* #賦予權限[root@node3 v1.18.8]# pwd /root/.minikube/cache/linux/amd64/v1.18.8[root@slave3 v1.18.8]# ll total 192544 -rwxr-xr-x 1 root root 39821312 Sep 11 11:24 kubeadm -rwxr-xr-x 1 root root 44040192 Sep 11 11:24 kubectl -rwxr-xr-x 1 root root 113300248 Sep 11 11:26 kubelet

(2)

集群健康檢查報錯的解決方案

[root@slave3 ~]# kubectl get cs NAME STATUS MESSAGE ERROR controller-manager Unhealthy Get http://127.0.0.1:10252/healthz: dial tcp 127.0.0.1:10252: connect: connection refused scheduler Unhealthy Get http://127.0.0.1:10251/healthz: dial tcp 127.0.0.1:10251: connect: connection refused etcd-0 Healthy {"health":"true"}

解決方案:

刪除/etc/kubernetes/manifests/kube-scheduler.yaml和/etc/kubernetes/manifests/kube-controller-manager.yaml兩個文件內的--port=0 這個字段

稍等片刻,再次查詢就正常了:

[root@slave3 ~]# kubectl get cs NAME STATUS MESSAGE ERROR controller-manager Healthy ok scheduler Healthy ok etcd-0 Healthy {"health":"true"}

三,

dashboard的安裝

[root@slave3 ~]# minikube dashboard * Enabling dashboard ...- Using image kubernetesui/metrics-scraper:v1.0.8- Using image kubernetesui/dashboard:v2.6.0 * Verifying dashboard health ... * Launching proxy ... * Verifying proxy health ... http://127.0.0.1:32844/api/v1/namespaces/kubernetes-dashboard/services/http:kubernetes-dashboard:/proxy/

設置代理

[root@slave3 v1.18.8]# kubectl proxy --port=45396 --address='0.0.0.0' --disable-filter=true --accept-hosts='^.*' W0911 12:49:38.664081 8709 proxy.go:167] Request filter disabled, your proxy is vulnerable to XSRF attacks, please be cautious Starting to serve on [::]:45396

瀏覽器登錄網址

本機IP是192.168.217.11,和上面的http://127.0.0.1:32844/api/v1/namespaces/kubernetes-dashboard/services/http:kubernetes-dashboard:/proxy/
拼接就好了

http://192.168.217.11:45396/api/v1/namespaces/kubernetes-dashboard/services/http:kubernetes-dashboard:/proxy/

至此,minikube就安裝完了。

附錄:

關于addons

可以看到有安裝StorageClass,但很多addons還沒有安裝

[root@slave3 v1.18.8]# minikube addons list |-----------------------------|----------|--------------|--------------------------------| | ADDON NAME | PROFILE | STATUS | MAINTAINER | |-----------------------------|----------|--------------|--------------------------------| | ambassador | minikube | disabled | 3rd party (Ambassador) | | auto-pause | minikube | disabled | Google | | csi-hostpath-driver | minikube | disabled | Kubernetes | | dashboard | minikube | enabled ? | Kubernetes | | default-storageclass | minikube | enabled ? | Kubernetes | | efk | minikube | disabled | 3rd party (Elastic) | | freshpod | minikube | disabled | Google | | gcp-auth | minikube | disabled | Google | | gvisor | minikube | disabled | Google | | headlamp | minikube | disabled | 3rd party (kinvolk.io) | | helm-tiller | minikube | disabled | 3rd party (Helm) | | inaccel | minikube | disabled | 3rd party (InAccel | | | | | [info@inaccel.com]) | | ingress | minikube | disabled | Kubernetes | | ingress-dns | minikube | disabled | Google | | istio | minikube | disabled | 3rd party (Istio) | | istio-provisioner | minikube | disabled | 3rd party (Istio) | | kong | minikube | disabled | 3rd party (Kong HQ) | | kubevirt | minikube | disabled | 3rd party (KubeVirt) | | logviewer | minikube | disabled | 3rd party (unknown) | | metallb | minikube | disabled | 3rd party (MetalLB) | | metrics-server | minikube | disabled | Kubernetes | | nvidia-driver-installer | minikube | disabled | Google | | nvidia-gpu-device-plugin | minikube | disabled | 3rd party (Nvidia) | | olm | minikube | disabled | 3rd party (Operator Framework) | | pod-security-policy | minikube | disabled | 3rd party (unknown) | | portainer | minikube | disabled | 3rd party (Portainer.io) | | registry | minikube | disabled | Google | | registry-aliases | minikube | disabled | 3rd party (unknown) | | registry-creds | minikube | disabled | 3rd party (UPMC Enterprises) | | storage-provisioner | minikube | enabled ? | Google | | storage-provisioner-gluster | minikube | disabled | 3rd party (Gluster) | | volumesnapshots | minikube | disabled | Kubernetes | |-----------------------------|----------|--------------|--------------------------------|

?以安裝ingress為例(安裝的同時,輸出安裝的錯誤日志):

[root@slave3 v1.18.8]# minikube addons enable ingress --alsologtostderr I0911 13:09:08.559523 14428 out.go:296] Setting OutFile to fd 1 ... I0911 13:09:08.572541 14428 out.go:343] TERM=xterm,COLORTERM=, which probably does not support color I0911 13:09:08.572593 14428 out.go:309] Setting ErrFile to fd 2... I0911 13:09:08.572609 14428 out.go:343] TERM=xterm,COLORTERM=, which probably does not support color I0911 13:09:08.572908 14428 root.go:333] Updating PATH: /root/.minikube/bin I0911 13:09:08.577988 14428 out.go:177] * ingress is an addon maintained by Kubernetes. For any concerns contact minikube on GitHub. You can view the list of minikube maintainers at: https://github.com/kubernetes/minikube/blob/master/OWNERS * ingress is an addon maintained by Kubernetes. For any concerns contact minikube on GitHub. You can view the list of minikube maintainers at: https://github.com/kubernetes/minikube/blob/master/OWNERS I0911 13:09:08.580137 14428 config.go:180] Loaded profile config "minikube": Driver=none, ContainerRuntime=docker, KubernetesVersion=v1.18.8 I0911 13:09:08.580198 14428 addons.go:65] Setting ingress=true in profile "minikube" I0911 13:09:08.580243 14428 addons.go:153] Setting addon ingress=true in "minikube" I0911 13:09:08.580572 14428 host.go:66] Checking if "minikube" exists ... I0911 13:09:08.581080 14428 exec_runner.go:51] Run: systemctl --version I0911 13:09:08.584877 14428 kubeconfig.go:92] found "minikube" server: "https://192.168.217.136:8443" I0911 13:09:08.584942 14428 api_server.go:165] Checking apiserver status ... I0911 13:09:08.584982 14428 exec_runner.go:51] Run: sudo pgrep -xnf kube-apiserver.*minikube.* I0911 13:09:08.611630 14428 exec_runner.go:51] Run: sudo egrep ^[0-9]+:freezer: /proc/15576/cgroup I0911 13:09:08.626851 14428 api_server.go:181] apiserver freezer: "9:freezer:/kubepods/burstable/pod1a4a24f29bac3cef528a8b328b9798b5/c8a589a612154591de984664d86a3ad96a449f3d0b1145527ceea9c5ed267124" I0911 13:09:08.626952 14428 exec_runner.go:51] Run: sudo cat /sys/fs/cgroup/freezer/kubepods/burstable/pod1a4a24f29bac3cef528a8b328b9798b5/c8a589a612154591de984664d86a3ad96a449f3d0b1145527ceea9c5ed267124/freezer.state I0911 13:09:08.638188 14428 api_server.go:203] freezer state: "THAWED" I0911 13:09:08.638329 14428 api_server.go:240] Checking apiserver healthz at https://192.168.217.136:8443/healthz ... I0911 13:09:08.649018 14428 api_server.go:266] https://192.168.217.136:8443/healthz returned 200: ok I0911 13:09:08.650082 14428 out.go:177] - Using image k8s.gcr.io/ingress-nginx/controller:v0.49.3- Using image k8s.gcr.io/ingress-nginx/controller:v0.49.3 I0911 13:09:08.652268 14428 out.go:177] - Using image docker.io/jettech/kube-webhook-certgen:v1.5.1- Using image docker.io/jettech/kube-webhook-certgen:v1.5.1 I0911 13:09:08.653129 14428 out.go:177] - Using image docker.io/jettech/kube-webhook-certgen:v1.5.1- Using image docker.io/jettech/kube-webhook-certgen:v1.5.1 I0911 13:09:08.654440 14428 addons.go:345] installing /etc/kubernetes/addons/ingress-deploy.yaml I0911 13:09:08.654528 14428 exec_runner.go:151] cp: memory --> /etc/kubernetes/addons/ingress-deploy.yaml (15118 bytes) I0911 13:09:08.654720 14428 exec_runner.go:51] Run: sudo cp -a /tmp/minikube4099945938 /etc/kubernetes/addons/ingress-deploy.yaml I0911 13:09:08.668351 14428 exec_runner.go:51] Run: sudo KUBECONFIG=/var/lib/minikube/kubeconfig /var/lib/minikube/binaries/v1.18.8/kubectl apply -f /etc/kubernetes/addons/ingress-deploy.yaml I0911 13:09:09.748481 14428 exec_runner.go:84] Completed: sudo KUBECONFIG=/var/lib/minikube/kubeconfig /var/lib/minikube/binaries/v1.18.8/kubectl apply -f /etc/kubernetes/addons/ingress-deploy.yaml: (1.080019138s) I0911 13:09:09.748552 14428 addons.go:383] Verifying addon ingress=true in "minikube" I0911 13:09:09.751805 14428 out.go:177] * Verifying ingress addon...

可以看到,安裝的時候使用的資源清單文件是這個:

sudo KUBECONFIG=/var/lib/minikube/kubeconfig /var/lib/minikube/binaries/v1.18.8/kubectl apply -f /etc/kubernetes/addons/ingress-deploy.yaml

該文件內容非常多,但,由于是使用的國外的鏡像網址,因此,一般是不會安裝成功的。

解決方案為查找里面涉及的images,替換為國內可下載的鏡像即可。?

還有一個權限問題,可能會報錯:

F0911 05:24:52.171825 6 ssl.go:389] unexpected error storing fake SSL Cert: could not create PEM certificate file /etc/ingress-controller/ssl/default-fake-certificate.pem: open /etc/ingress-controller/ssl/default-fake-certificate.pem: permission denied

解決方案是:

還是編輯下面這個文件,?runAsUser 的值修改為33?

重新apply 此文件:

kubectl apply -f /etc/kubernetes/addons/ingress-deploy.yaml

[root@slave3 v1.18.8]# cat /etc/kubernetes/addons/ingress-deploy.yaml # Copyright 2021 The Kubernetes Authors All rights reserved. # # Licensed under the Apache License, Version 2.0 (the "License"); # you may not use this file except in compliance with the License. # You may obtain a copy of the License at # # http://www.apache.org/licenses/LICENSE-2.0 # # Unless required by applicable law or agreed to in writing, software # distributed under the License is distributed on an "AS IS" BASIS, # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. # See the License for the specific language governing permissions and # limitations under the License.# ref: https://github.com/kubernetes/ingress-nginx/blob/main/deploy/static/provider/kind/deploy.yamlapiVersion: v1 kind: Namespace metadata:labels:app.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx --- apiVersion: v1 automountServiceAccountToken: true kind: ServiceAccount metadata:labels:app.kubernetes.io/component: controllerapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginxnamespace: ingress-nginx --- apiVersion: v1 kind: ServiceAccount metadata:labels:app.kubernetes.io/component: admission-webhookapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-admissionnamespace: ingress-nginx --- apiVersion: rbac.authorization.k8s.io/v1 kind: Role metadata:labels:app.kubernetes.io/component: controllerapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginxnamespace: ingress-nginx rules: - apiGroups:- ""resources:- namespacesverbs:- get - apiGroups:- ""resources:- configmaps- pods- secrets- endpointsverbs:- get- list- watch - apiGroups:- ""resources:- servicesverbs:- get- list- watch - apiGroups:- extensions- networking.k8s.ioresources:- ingressesverbs:- get- list- watch - apiGroups:- extensions- networking.k8s.ioresources:- ingresses/statusverbs:- update - apiGroups:- networking.k8s.ioresources:- ingressclassesverbs:- get- list- watch - apiGroups:- ""resourceNames:- ingress-controller-leaderresources:- configmapsverbs:- get- update - apiGroups:- ""resources:- configmapsverbs:- create - apiGroups:- ""resources:- eventsverbs:- create- patch --- apiVersion: rbac.authorization.k8s.io/v1 kind: Role metadata:labels:app.kubernetes.io/component: admission-webhookapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-admissionnamespace: ingress-nginx rules: - apiGroups:- ""resources:- secretsverbs:- get- create --- apiVersion: rbac.authorization.k8s.io/v1 kind: ClusterRole metadata:labels:app.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx rules: - apiGroups:- ""resources:- configmaps- endpoints- nodes- pods- secrets- namespacesverbs:- list- watch - apiGroups:- ""resources:- nodesverbs:- get - apiGroups:- ""resources:- servicesverbs:- get- list- watch - apiGroups:- extensions- networking.k8s.ioresources:- ingressesverbs:- get- list- watch - apiGroups:- ""resources:- eventsverbs:- create- patch - apiGroups:- extensions- networking.k8s.ioresources:- ingresses/statusverbs:- update - apiGroups:- networking.k8s.ioresources:- ingressclassesverbs:- get- list- watch --- apiVersion: rbac.authorization.k8s.io/v1 kind: ClusterRole metadata:labels:app.kubernetes.io/component: admission-webhookapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-admission rules: - apiGroups:- admissionregistration.k8s.ioresources:- validatingwebhookconfigurationsverbs:- get- update --- apiVersion: rbac.authorization.k8s.io/v1 kind: RoleBinding metadata:labels:app.kubernetes.io/component: controllerapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginxnamespace: ingress-nginx roleRef:apiGroup: rbac.authorization.k8s.iokind: Rolename: ingress-nginx subjects: - kind: ServiceAccountname: ingress-nginxnamespace: ingress-nginx --- apiVersion: rbac.authorization.k8s.io/v1 kind: RoleBinding metadata:labels:app.kubernetes.io/component: admission-webhookapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-admissionnamespace: ingress-nginx roleRef:apiGroup: rbac.authorization.k8s.iokind: Rolename: ingress-nginx-admission subjects: - kind: ServiceAccountname: ingress-nginx-admissionnamespace: ingress-nginx --- apiVersion: rbac.authorization.k8s.io/v1 kind: ClusterRoleBinding metadata:labels:app.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx roleRef:apiGroup: rbac.authorization.k8s.iokind: ClusterRolename: ingress-nginx subjects: - kind: ServiceAccountname: ingress-nginxnamespace: ingress-nginx --- apiVersion: rbac.authorization.k8s.io/v1 kind: ClusterRoleBinding metadata:labels:app.kubernetes.io/component: admission-webhookapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-admission roleRef:apiGroup: rbac.authorization.k8s.iokind: ClusterRolename: ingress-nginx-admission subjects: - kind: ServiceAccountname: ingress-nginx-admissionnamespace: ingress-nginx --- apiVersion: v1 data:# see https://github.com/kubernetes/ingress-nginx/blob/master/docs/user-guide/nginx-configuration/configmap.md for all possible options and their descriptionhsts: "false"# see https://github.com/kubernetes/minikube/pull/12702#discussion_r727519180: 'allow-snippet-annotations' should be used only if strictly required by another part of the deployment # allow-snippet-annotations: "true" kind: ConfigMap metadata:labels:app.kubernetes.io/component: controllerapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-controllernamespace: ingress-nginx --- apiVersion: v1 kind: ConfigMap metadata:name: tcp-servicesnamespace: ingress-nginxlabels:app.kubernetes.io/name: ingress-nginxapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/component: controller --- apiVersion: v1 kind: ConfigMap metadata:name: udp-servicesnamespace: ingress-nginxlabels:app.kubernetes.io/name: ingress-nginxapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/component: controller --- apiVersion: v1 kind: Service metadata:labels:app.kubernetes.io/component: controllerapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-controllernamespace: ingress-nginx spec:ports:- name: httpport: 80protocol: TCPtargetPort: http- name: httpsport: 443protocol: TCPtargetPort: httpsselector:app.kubernetes.io/component: controllerapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxtype: NodePort --- apiVersion: v1 kind: Service metadata:labels:app.kubernetes.io/component: controllerapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-controller-admissionnamespace: ingress-nginx spec:ports:- name: https-webhookport: 443targetPort: webhookselector:app.kubernetes.io/component: controllerapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxtype: ClusterIP --- apiVersion: apps/v1 kind: Deployment metadata:labels:app.kubernetes.io/component: controllerapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-controllernamespace: ingress-nginx spec:minReadySeconds: 0revisionHistoryLimit: 10selector:matchLabels:app.kubernetes.io/component: controllerapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxstrategy:rollingUpdate:maxUnavailable: 1type: RollingUpdatetemplate:metadata:labels:app.kubernetes.io/component: controllerapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxgcp-auth-skip-secret: "true"spec:containers:- args:- /nginx-ingress-controller- --election-id=ingress-controller-leader- --ingress-class=nginx- --configmap=$(POD_NAMESPACE)/ingress-nginx-controller- --tcp-services-configmap=$(POD_NAMESPACE)/tcp-services- --udp-services-configmap=$(POD_NAMESPACE)/udp-services- --validating-webhook=:8443- --validating-webhook-certificate=/usr/local/certificates/cert- --validating-webhook-key=/usr/local/certificates/keyenv:- name: POD_NAMEvalueFrom:fieldRef:fieldPath: metadata.name- name: POD_NAMESPACEvalueFrom:fieldRef:fieldPath: metadata.namespace- name: LD_PRELOADvalue: /usr/local/lib/libmimalloc.soimage: k8s.gcr.io/ingress-nginx/controller:v0.49.3@sha256:35fe394c82164efa8f47f3ed0be981b3f23da77175bbb8268a9ae438851c8324imagePullPolicy: IfNotPresentlifecycle:preStop:exec:command:- /wait-shutdownlivenessProbe:failureThreshold: 5httpGet:path: /healthzport: 10254scheme: HTTPinitialDelaySeconds: 10periodSeconds: 10successThreshold: 1timeoutSeconds: 1name: controllerports:- containerPort: 80hostPort: 80name: httpprotocol: TCP- containerPort: 443hostPort: 443name: httpsprotocol: TCP- containerPort: 8443name: webhookprotocol: TCPreadinessProbe:failureThreshold: 3httpGet:path: /healthzport: 10254scheme: HTTPinitialDelaySeconds: 10periodSeconds: 10successThreshold: 1timeoutSeconds: 1resources:requests:cpu: 100mmemory: 90MisecurityContext:allowPrivilegeEscalation: truecapabilities:add:- NET_BIND_SERVICEdrop:- ALLrunAsUser: 101volumeMounts:- mountPath: /usr/local/certificates/name: webhook-certreadOnly: truednsPolicy: ClusterFirstnodeSelector:minikube.k8s.io/primary: "true"kubernetes.io/os: linuxserviceAccountName: ingress-nginxterminationGracePeriodSeconds: 0tolerations:- effect: NoSchedulekey: node-role.kubernetes.io/masteroperator: Equalvolumes:- name: webhook-certsecret:secretName: ingress-nginx-admission --- apiVersion: batch/v1 kind: Job metadata:labels:app.kubernetes.io/component: admission-webhookapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-admission-createnamespace: ingress-nginx spec:template:metadata:labels:app.kubernetes.io/component: admission-webhookapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-admission-createspec:containers:- args:- create- --host=ingress-nginx-controller-admission,ingress-nginx-controller-admission.$(POD_NAMESPACE).svc- --namespace=$(POD_NAMESPACE)- --secret-name=ingress-nginx-admissionenv:- name: POD_NAMESPACEvalueFrom:fieldRef:fieldPath: metadata.namespaceimage: docker.io/jettech/kube-webhook-certgen:v1.5.1@sha256:950833e19ade18cd389d647efb88992a7cc077abedef343fa59e012d376d79b7imagePullPolicy: IfNotPresentname: createsecurityContext:allowPrivilegeEscalation: falsenodeSelector:minikube.k8s.io/primary: "true"kubernetes.io/os: linuxrestartPolicy: OnFailuresecurityContext:runAsNonRoot: truerunAsUser: 2000serviceAccountName: ingress-nginx-admission --- apiVersion: batch/v1 kind: Job metadata:labels:app.kubernetes.io/component: admission-webhookapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-admission-patchnamespace: ingress-nginx spec:template:metadata:labels:app.kubernetes.io/component: admission-webhookapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-admission-patchspec:containers:- args:- patch- --webhook-name=ingress-nginx-admission- --namespace=$(POD_NAMESPACE)- --patch-mutating=false- --secret-name=ingress-nginx-admission- --patch-failure-policy=Failenv:- name: POD_NAMESPACEvalueFrom:fieldRef:fieldPath: metadata.namespaceimage: docker.io/jettech/kube-webhook-certgen:v1.5.1@sha256:950833e19ade18cd389d647efb88992a7cc077abedef343fa59e012d376d79b7imagePullPolicy: IfNotPresentname: patchsecurityContext:allowPrivilegeEscalation: falsenodeSelector:minikube.k8s.io/primary: "true"kubernetes.io/os: linuxrestartPolicy: OnFailuresecurityContext:runAsNonRoot: truerunAsUser: 2000serviceAccountName: ingress-nginx-admission --- apiVersion: admissionregistration.k8s.io/v1 kind: ValidatingWebhookConfiguration metadata:labels:app.kubernetes.io/component: admission-webhookapp.kubernetes.io/instance: ingress-nginxapp.kubernetes.io/name: ingress-nginxname: ingress-nginx-admission webhooks: - admissionReviewVersions:- v1- v1beta1clientConfig:service:name: ingress-nginx-controller-admissionnamespace: ingress-nginxpath: /networking/v1beta1/ingressesfailurePolicy: FailmatchPolicy: Equivalentname: validate.nginx.ingress.kubernetes.iorules:- apiGroups:- networking.k8s.ioapiVersions:- v1beta1operations:- CREATE- UPDATEresources:- ingressessideEffects: None

安裝完畢后可以看到:

[root@slave3 v1.18.8]# kubectl get all -n ingress-nginx NAME READY STATUS RESTARTS AGE pod/ingress-nginx-admission-create-n5hc5 0/1 Completed 0 28m pod/ingress-nginx-admission-patch-cgzl9 0/1 Completed 0 28m pod/ingress-nginx-controller-54b856d6d7-7fr7q 1/1 Running 0 9m54sNAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE service/ingress-nginx-controller NodePort 10.107.186.74 <none> 80:31411/TCP,443:32683/TCP 28m service/ingress-nginx-controller-admission ClusterIP 10.106.184.40 <none> 443/TCP 28mNAME READY UP-TO-DATE AVAILABLE AGE deployment.apps/ingress-nginx-controller 1/1 1 1 28mNAME DESIRED CURRENT READY AGE replicaset.apps/ingress-nginx-controller-54b856d6d7 1 1 1 9m54s replicaset.apps/ingress-nginx-controller-7689b8b4f9 0 0 0 17m replicaset.apps/ingress-nginx-controller-77cc874b76 0 0 0 28mNAME COMPLETIONS DURATION AGE job.batch/ingress-nginx-admission-create 1/1 21s 28m job.batch/ingress-nginx-admission-patch 1/1 22s 28m [root@slave3 v1.18.8]#

addons里的ingress就安裝好啦。

總結

以上是生活随笔為你收集整理的云原生|kubernetes|minikube的部署安装完全手册(修订版)的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

久久久久久久免费观看 | 2022中文字幕在线观看 | 午夜影院一级片 | 午夜 久久 tv | 日韩中文字幕在线不卡 | 91人人澡人人爽人人精品 | 国产视频资源 | 日韩精品一区二区三区免费观看 | 亚洲区精品视频 | 国产精品高潮呻吟久久av无 | 国产无区一区二区三麻豆 | www.天天操 | 久久a v电影 | 亚洲电影网站 | 国产一区二区三精品久久久无广告 | 美女视频一区二区 | 91理论片午午伦夜理片久久 | 在线视频一区二区 | 久草在线视频首页 | 婷婷中文字幕在线观看 | 亚洲成人av片 | 欧美午夜精品久久久久久浪潮 | 亚洲丝袜一区二区 | 最近中文字幕在线 | 久草免费在线视频观看 | 日韩精品短视频 | av网址aaa | 国产精品综合久久久 | 在线a人v观看视频 | 久久1区 | 日日夜夜精品视频天天综合网 | 成年人在线免费看视频 | 99精品国产99久久久久久福利 | 中文字幕免费不卡视频 | 国产免费又爽又刺激在线观看 | 欧美日韩精品免费观看视频 | 国产免费一区二区三区最新6 | 午夜国产福利在线 | 久久97久久 | 亚洲精品一区二区三区四区高清 | 婷婷色伊人 | 国产盗摄精品一区二区 | 亚洲h在线播放在线观看h | 黄污网 | www.黄色片网站 | 久久久免费看片 | 97超碰在 | 日本性生活一级片 | 国产精品一区一区三区 | 天天干天天色2020 | 精品国自产在线观看 | 久久视频免费在线观看 | 国产精品嫩草影院9 | 国产精品va视频 | 免费看三级黄色片 | 热久久99这里有精品 | 91av免费在线观看 | 日韩高清毛片 | 国产1区2区3区在线 亚洲自拍偷拍色图 | 久草在线久| 天天操天天干天天操天天干 | 又黄又爽又刺激视频 | 欧美 激情 国产 91 在线 | 精品国内自产拍在线观看视频 | 中文字幕久久精品一区 | 欧美一级黄色网 | 日日夜夜综合网 | 99久久精品国产亚洲 | 免费日韩一区二区 | 成人一级在线观看 | 五月亚洲综合 | 久久激情视频 久久 | 日韩精品一区二区三区免费观看 | 久久99精品国产一区二区三区 | 亚洲三级在线免费观看 | 高潮久久久| 亚洲欧美视频在线播放 | 成人在线观看日韩 | 免费黄色在线网址 | 婷婷在线免费视频 | 国产黄色在线网站 | 国产91成人 | 九九九视频精品 | 国产精品国产三级国产 | 色爱区综合激月婷婷 | 国产中文字幕一区二区三区 | 亚洲天堂网视频在线观看 | 国产va饥渴难耐女保洁员在线观看 | 在线a视频| 国产伦理一区二区 | 九九亚洲视频 | 精品一二区 | 国产精品成人aaaaa网站 | 福利一区视频 | 视频国产精品 | 欧洲视频一区 | 日韩性片 | 国产一级大片免费看 | 麻豆91精品91久久久 | 国产精品入口久久 | 国产 在线观看 | 色诱亚洲精品久久久久久 | 久久综合婷婷国产二区高清 | 亚洲欧洲成人 | 国产高清视频免费最新在线 | 在线成人一区二区 | 麻豆传媒视频在线免费观看 | 欧美一区中文字幕 | 国产在线中文字幕 | 免费在线观看国产精品 | 日韩亚洲国产精品 | 在线亚洲高清视频 | 久久久久国产精品厨房 | 欧美色就是色 | 日韩视频www | 最近中文字幕大全中文字幕免费 | 黄色片亚洲 | 日本午夜免费福利视频 | 精品电影一区 | 精品99免费 | 亚洲精品9 | 成年人免费看的视频 | 黄色av观看 | 青青河边草免费观看完整版高清 | 精品成人久久 | 亚洲视频免费在线看 | 亚洲成人黄色av | 国产在线v | 永久免费的av电影 | 日本成人中文字幕在线观看 | av福利超碰网站 | 97看片网 | 日韩一级片大全 | 婷婷激情久久 | 麻豆播放 | 国产成人a亚洲精品 | 超级碰碰视频 | 天堂麻豆 | 国产不卡视频在线 | 97免费中文视频在线观看 | 亚洲精品mv在线观看 | 精品国产伦一区二区三区免费 | 国产资源免费在线观看 | 久久亚洲精品电影 | 黄色小说免费观看 | 亚洲欧美日韩国产一区二区三区 | 免费国产在线视频 | 欧美日韩在线免费视频 | 又色又爽又黄 | 香蕉影院在线观看 | 国产一级电影免费观看 | 国内精品国产三级国产aⅴ久 | 欧美日韩国产在线精品 | 国产精品欧美久久久久天天影视 | 最近更新的中文字幕 | 国产一区网址 | 69精品在线观看 | 91高清免费在线观看 | 欧美日产一区 | 久久美女高清视频 | 国产精成人品免费观看 | 国产 视频 久久 | www91在线观看| 国产1区2区3区精品美女 | 久久精品欧美日韩精品 | www日日| 综合色久 | 国产精品久久片 | 国产精品久久久免费 | 天天爱天天射天天干天天 | 日韩av在线免费看 | wwwav视频 | h久久| 激情婷婷综合网 | 91一区二区三区久久久久国产乱 | 久久99九九99精品 | 91麻豆产精品久久久久久 | 正在播放日韩 | av网站手机在线观看 | 中文在线a∨在线 | 国产中文字幕在线免费观看 | 日韩免费精品 | 亚洲人成人在线 | 九九色在线观看 | 中文字幕亚洲五码 | 亚洲第一中文网 | 精品欧美一区二区精品久久 | 天天操天天添天天吹 | 一区二区不卡视频在线观看 | 欧美日韩另类在线观看 | 欧美日韩中文在线视频 | 天天综合网入口 | 婷婷色婷婷 | 亚洲国产免费看 | 99热网站| 天天操福利视频 | 婷婷激情五月综合 | 成人一级免费视频 | 97人人射 | 香蕉视频在线免费看 | 日本中文不卡 | 色视频一区 | 中文字幕成人网 | 999久久久精品视频 日韩高清www | 手机成人在线电影 | 久草在线免费资源站 | 91av片| 久久精品在线 | 99成人在线视频 | 黄色毛片大全 | 国产精品成人av久久 | 综合色在线 | 精品色综合 | 久久再线视频 | 91精品国产三级a在线观看 | 精品久久久久一区二区国产 | 麻豆免费在线视频 | 国产又粗又长又硬免费视频 | 国色天香在线观看 | 超碰人在线 | 中文字幕在线免费看线人 | 欧美日韩一区三区 | 免费看的毛片 | 69夜色精品国产69乱 | 国产一区二区中文字幕 | 欧美日韩中文国产 | av在线专区| 亚洲午夜精品福利 | 一级黄色片在线 | 麻豆视屏| 久久tv视频| av不卡在线看 | 四虎影视8848dvd | 五月天九九 | 精品一区二区免费在线观看 | 伊人va | 99热.com | 欧美日韩一二三四区 | 91激情小视频 | 视频在线精品 | 日韩美一区二区三区 | 91成人在线观看高潮 | 国产精品国产三级国产不产一地 | 国产一级二级在线观看 | 一级免费片 | 天天爱天天色 | 国产精品久久久久久久久久久杏吧 | 欧美巨大荫蒂茸毛毛人妖 | 日韩精品专区在线影院重磅 | 国产真实精品久久二三区 | 国产精品成久久久久 | 91.精品高清在线观看 | 日本视频久久久 | 久久精品国产精品 | 国产无套一区二区三区久久 | 蜜臀久久99精品久久久久久网站 | 日韩精品在线播放 | 在线免费观看黄色大片 | 91精品久久久久久久99蜜桃 | 久久久免费观看视频 | 久久五月精品 | 99re6热在线精品视频 | 国产拍揄自揄精品视频麻豆 | 国产精品一区二区免费 | 久草在线观看视频免费 | 亚洲精品一区二区久 | 久久中文精品视频 | 精品中文字幕在线 | 欧美在线aa | 国产高清视频免费在线观看 | 色.www| 国产精品视频地址 | avwww在线 | 国产亚洲一区二区在线观看 | 国产精品久久久久久久久岛 | 国产69熟 | 日韩一区二区在线免费观看 | 亚洲九九影院 | 黄色网址a| 亚洲五月 | 日日操天天操夜夜操 | 日本久久久影视 | 91尤物国产尤物福利在线播放 | 中文字幕资源在线 | 欧美伊人网 | 久久精品99国产国产精 | 国产精品久久久久久久99 | 国产一级视频 | 91九色在线| av电影免费 | av网站在线免费观看 | 欧美性生交大片免网 | 天天做日日做天天爽视频免费 | 97色婷婷人人爽人人 | 国产福利av在线 | 日韩在线观看电影 | 91精品国产99久久久久久红楼 | 欧美a级一区二区 | 欧美精品黑人性xxxx | 成年人免费在线播放 | 精品99久久 | 亚洲精品动漫久久久久 | 丝袜少妇在线 | 精品国产成人在线 | 亚洲九九精品 | 亚洲精品中文在线观看 | 激情导航 | 久久国语露脸国产精品电影 | 久久韩国免费视频 | 久久精久久精 | 懂色av一区二区三区蜜臀 | www.天天射.com| 精品视频在线视频 | 丁香婷婷综合激情五月色 | 成人在线超碰 | 精品国模一区二区三区 | 7777xxxx | 国产v亚洲v | 超碰日韩 | 成人免费看电影 | 一区二区三区免费播放 | 五月香视频在线观看 | 国产午夜在线观看视频 | 一本大道久久精品懂色aⅴ 五月婷社区 | av高清在线 | 亚洲午夜久久久久 | 天天操天天射天天操 | 91av手机在线 | 日本黄色免费网站 | 一区二区视频在线免费观看 | 久久成人亚洲欧美电影 | 精品一二三区视频 | 精品国产伦一区二区三区观看方式 | 欧美亚洲久久 | 亚洲国产精品成人av | 五月天婷婷在线视频 | 69国产精品视频免费观看 | 国产aa精品 | 亚洲精品成人免费 | 免费日韩 精品中文字幕视频在线 | 久久精品视频国产 | 最新av免费在线 | 亚洲成av人片一区二区梦乃 | 一区二区三区精品在线视频 | 久久五月激情 | 国产一区二区综合 | 99久久精品国产一区二区成人 | 日日夜夜天天干 | 最近高清中文在线字幕在线观看 | 午夜精品久久久久久久久久久久久久 | 成人亚洲精品国产www | 在线天堂中文在线资源网 | 精品日韩中文字幕 | 人人揉人人揉人人揉人人揉97 | 日日爱网址 | 成年人免费在线观看 | 中文字幕一区二 | 91精品视频免费在线观看 | 久久久久免费网 | 精品国产一区二区久久 | av在线影片| 国产免费亚洲高清 | 中文字幕在线观看视频一区 | 麻豆91小视频 | 午夜性色 | 精品一二三四在线 | 黄色网址在线播放 | 狠狠色伊人亚洲综合成人 | 国产一区在线观看免费 | 国产三级香港三韩国三级 | 国产麻豆果冻传媒在线观看 | 日韩在线大片 | 国产只有精品 | 碰超在线观看 | 午夜av在线免费 | 一区二区三区四区五区六区 | 久久精品99国产 | 久久久噜噜噜久久久 | 在线视频1卡二卡三卡 | 黄色av免费在线 | 日本在线观看中文字幕无线观看 | 91免费视频网站在线观看 | 中文字幕在线观看一区二区三区 | 91九色成人蝌蚪首页 | 国产99久久久久久免费看 | 精品国产一二三四区 | 国产二区视频在线 | 精品福利在线观看 | 成人免费在线电影 | 在线精品视频免费播放 | 日韩av电影中文字幕在线观看 | 国产欧美中文字幕 | 色婷婷狠 | 久久人人爽人人 | 最近中文字幕国语免费av | 天天干天天摸天天操 | 三级免费黄色 | 日本久久久精品视频 | 五月激情视频 | 成人在线一区二区三区 | 久热久草在线 | 久草综合视频 | 精品一二| 久久国产精品网站 | 九九久久久久久久久激情 | 日韩天天操 | 国产在线精品一区二区不卡了 | 日日添夜夜添 | 97色在线观看免费视频 | 91福利视频免费 | 国产999久久久| 激情喷水 | 综合网在线视频 | 中文字幕高清有码 | 久久精品女人毛片国产 | 五月婷综合 | 日韩精品一区二区三区三炮视频 | 丝袜制服综合网 | 国产成人91 | 成人一级在线 | 久久久久激情视频 | 中文字幕在线观看完整版 | 中文字幕在线观看一区 | 日本黄色大片免费 | 国产精品黄色在线观看 | 中国一 片免费观看 | 不卡的一区二区三区 | 狠狠狠综合 | 精品久久在线 | 日韩欧美在线视频一区二区三区 | 国产黄色片久久 | 欧美91精品久久久久国产性生爱 | 超碰在线最新地址 | 丁香婷婷激情五月 | 欧美午夜a | 亚洲区另类春色综合小说校园片 | 99精品国产在热久久下载 | 国产精彩视频 | 亚洲美女视频在线观看 | 欧美日韩在线播放 | 丁香六月天| 97视频免费观看2区 亚洲视屏 | 911亚洲精品第一 | 日韩在线观看中文 | 99人成在线观看视频 | 91亚洲永久精品 | 免费看国产黄色 | www.久久com| 99精品久久久久久久久久综合 | 99精品久久只有精品 | 涩涩资源网 | 99久久99视频只有精品 | 99免费精品 | 麻豆极品 | 欧美美女视频在线观看 | 日韩av影片在线观看 | 国产亚洲日| 日本中文在线观看 | 天天天天爽 | 美女视频黄网站 | 日日干夜夜草 | 中文字幕在线观看不卡 | 免费国产亚洲视频 | 黄av在线| 97天堂网| 日本爱爱免费 | av超碰在线 | 色91在线| 怡春院av| 婷婷综合久久 | 日韩一区精品 | 97综合在线 | 亚洲欧洲一级 | 日韩在线视频二区 | 在线网址你懂得 | 国产精品久久久久久久久久了 | 91丨九色丨蝌蚪丨对白 | 色综合天天天天做夜夜夜夜做 | 国产资源在线免费观看 | 欧美一级日韩三级 | 激情网五月婷婷 | 久久久久 | 中文字幕一区二区三区四区视频 | 天天干天天草天天爽 | 97超在线| 亚洲欧美成人网 | 亚洲国产片 | 久久久久久99精品 | 中文av免费 | 日韩免费视频 | 日韩av一区二区三区四区 | 免费观看一区二区三区视频 | 在线看一级片 | 射九九| 色网站在线免费 | 9999精品免费视频 | www色| 久久精品视频网站 | 国产成人精品av久久 | 一级黄色片在线免费看 | 一级性生活片 | 99热精品在线观看 | 色婷婷精品大在线视频 | 日韩手机视频 | 奇米网网址 | 亚洲国产精品久久 | 波多野结衣在线视频一区 | 在线国产一区二区 | 六月婷操| 99视频久 | 亚洲精品久久久蜜桃 | 国产亚洲精品久久久久久网站 | 在线观看一区 | 狠狠五月婷婷 | 欧美福利在线播放 | 一区二区视频电影在线观看 | 精品国产一区二区在线 | 日韩免费电影网站 | 久久免费看av | 免费看av片网站 | 久久综合久色欧美综合狠狠 | 久久女教师 | 激情av网 | 天堂av在线7 | 韩国av免费在线 | 狠狠干 狠狠操 | 国产在线更新 | 日韩欧美视频 | 日韩av免费观看网站 | 日本精品久久久一区二区三区 | 天天综合网入口 | 欧美精品一区二区蜜臀亚洲 | 五月婷婷激情综合 | 九九九热精品免费视频观看网站 | 日韩精品不卡在线观看 | www天天干com | 91精品在线免费视频 | 国产精品久久久久aaaa九色 | 国产精品久久久久久久午夜片 | 麻豆精品传媒视频 | 天堂av免费看 | 日韩精品一区二区三区不卡 | 天天干,天天射,天天操,天天摸 | 97电影院在线观看 | 韩国av免费在线观看 | 成人国产精品久久久春色 | 欧美99精品 | 青青五月天 | 91看毛片 | 欧美一区二区三区在线播放 | 91av在线视频播放 | 日韩免费三区 | 亚洲国产精品成人女人久久 | 丰满少妇高潮在线观看 | 日日碰狠狠添天天爽超碰97久久 | 在线免费观看视频一区 | 日韩精品一区二 | 天天操天天色综合 | 精品久久久久久国产91 | 综合网伊人 | 日韩在线不卡av | 久草在线这里只有精品 | 人人爽夜夜爽 | 超碰伊人网 | 97av色| 一区av在线播放 | 狠狠色丁香婷婷综合久小说久 | 亚洲人成影院在线 | 久久久伦理 | 久久成人资源 | 91福利视频免费观看 | 黄色av电影网| 日本女人的性生活视频 | 国产高清av | 西西444www大胆高清视频 | 亚洲欧美国产日韩在线观看 | 国产 一区二区三区 在线 | 91精品福利在线 | 亚州国产精品 | www.福利| 91麻豆精品国产91久久久久 | 亚洲一区黄色 | 亚洲综合色婷婷 | 日本特黄一级片 | 天天操天天插 | 久综合网 | 久久视频99 | 日韩在线 一区二区 | 亚洲国产免费看 | 成人h动漫在线看 | 天天操天天干天天操天天干 | 精品一区二区亚洲 | 顶级欧美色妇4khd | 国产日韩欧美在线观看视频 | 日韩欧美亚州 | 国产一级淫片免费看 | 免费日韩一区 | 欧美成人91 | 亚洲欧美综合精品久久成人 | 永久免费在线 | av日韩不卡| 国产专区免费 | 国产91aaa | 毛片网免费 | 丁香高清视频在线看看 | 色综合天天狠狠 | 色视频在线观看免费 | 色天天中文 | 国产一区二区精品91 | 黄色av成人在线 | 亚洲成人av片在线观看 | 狠狠狠狠狠狠狠狠 | 婷婷国产在线 | 草久电影 | 亚洲成av | 九九色网 | 国产精品网址在线观看 | 中文字幕观看av | 天天干天天玩天天操 | 久久久久久国产精品久久 | 人人爽影院| 麻豆视频在线观看免费 | 国产在线视频在线观看 | 久久 亚洲视频 | 婷婷色综合色 | 99久久99久久精品国产片果冰 | 国产伦精品一区二区三区无广告 | av大片网站 | 成人av片免费观看app下载 | 狠色狠色综合久久 | 国产一级免费电影 | 国产精品美女久久久网av | 久久手机在线视频 | 色五月激情五月 | av电影免费在线看 | 91精品免费看| 亚洲伊人天堂 | 国产精品久久一区二区无卡 | 国产成人精品在线观看 | 在线观看www91| 精品福利视频在线 | 亚州精品在线视频 | 激情视频一区二区 | 国产91精品一区二区麻豆亚洲 | 五月天电影免费在线观看一区 | 91色九色| 亚洲色图27p | 久久欧美精品 | 日本狠狠干 | 中文字幕日本特黄aa毛片 | 97国产电影 | 午夜精品一二区 | 久久视频这里只有精品 | 国产一区二区三区四区在线 | 日日精品| 国产麻豆电影在线观看 | av免费成人 | 黄色大片日本 | 中文字幕在线观看av | 国产综合激情 | 国产精品免费视频观看 | 亚洲精品色视频 | 亚洲人在线| 2021国产在线视频 | 天天操天天透 | 人人爽人人片 | 亚洲精品国产精品国自产观看 | 香蕉视频国产在线观看 | 九色自拍视频 | 韩国av一区二区三区 | 婷婷色中文字幕 | 亚洲精品欧美专区 | 人人爱爱 | 麻花豆传媒mv在线观看网站 | 亚欧洲精品视频在线观看 | 人人插人人插 | 亚洲 欧美 变态 国产 另类 | 久久永久免费 | 欧美久草视频 | 国产91成人| 丁香久久婷婷 | 97超碰色 | 99精品国产成人一区二区 | 99色99 | 日韩免费不卡av | 成人av资源网 | 最近日本韩国中文字幕 | 女人18精品一区二区三区 | 日韩综合在线观看 | 性日韩欧美在线视频 | 毛片1000部免费看 | 久久综合婷婷综合 | 永久免费的啪啪网站免费观看浪潮 | 精品一区二区亚洲 | 亚洲精品久久久蜜桃直播 | 天天综合网久久综合网 | 国产香蕉视频在线观看 | 日韩精品一区二区三区不卡 | 69精品视频在线观看 | 欧美日韩一区二区久久 | 久久久久一区二区三区四区 | 天天av资源 | 国产精品黄网站在线观看 | 成人在线网站观看 | 国产视频精选在线 | www久草 | 亚洲人片在线观看 | 天堂va欧美va亚洲va老司机 | 中文字幕丝袜一区二区 | 欧美综合久久 | 99精品视频一区二区 | 成+人+色综合 | 97av超碰| 久久成人一区二区 | 成人高清av在线 | 日本夜夜草视频网站 | 国产一二三区av | 亚洲日本黄色 | 久久久久久久久久久久亚洲 | 色婷婷色| 日韩视频在线一区 | 日日躁天天躁 | 深夜免费福利在线 | 日本在线观看一区 | 超碰97国产在线 | 日本在线成人 | 色婷婷激婷婷情综天天 | 深夜福利视频在线观看 | 激情综合亚洲精品 | 国产精品粉嫩 | 521色香蕉网站在线观看 | 国产精品人人做人人爽人人添 | 五月天久久精品 | 日本性视频 | 97电影网手机版 | 99久久婷婷国产综合精品 | 免费精品人在线二线三线 | 精品久久久久久久久久久久久久久久久久 | 狠狠插天天干 | 欧美专区国产专区 | 婷婷丁香av | 午夜精品一区二区三区在线播放 | 婷婷成人亚洲综合国产xv88 | 国产又粗又猛又色 | 最近中文字幕免费 | 久久免费在线观看 | www.黄色片.com | 亚洲综合丁香 | 欧美精品中文字幕亚洲专区 | 日韩网站在线 | 国产97色| 在线播放一区二区三区 | 亚洲干视频在线观看 | 视频在线观看亚洲 | 中文字幕在线免费看线人 | 亚洲精品 在线视频 | 亚洲精品 在线视频 | 狠狠狠色丁香综合久久天下网 | 成人日韩av| 69国产成人综合久久精品欧美 | 久久久香蕉视频 | 91资源在线免费观看 | 就要干b | 色综合小说 | 狠狠躁夜夜躁人人爽超碰97香蕉 | 久草www| av成人免费在线观看 | 日本69hd| 国产精品国产三级在线专区 | 99re国产| 安徽妇搡bbbb搡bbbb | 中文字幕视频 | 97超碰在线资源 | 成年人在线观看视频免费 | 丝袜少妇在线 | 久久久福利视频 | 国产一区成人在线 | 国产主播大尺度精品福利免费 | 国产精彩在线视频 | 天天操天天添 | 99久久99| 日韩最新在线视频 | 在线播放 日韩专区 | 国产经典 欧美精品 | 欧美 另类 交| 性色av一区二区三区在线观看 | 亚洲在线视频网站 | 毛片网在线| 91少妇精拍在线播放 | 五月天婷婷在线播放 | 久久精品免费电影 | av资源在线看 | 黄色app网站在线观看 | 亚洲激情| 色大片免费看 | 色综合婷婷 | 欧美成人猛片 | 国产真实在线 | 精品一二区 | 三级动态视频在线观看 | 丰满少妇久久久 | 五月婷婷影院 | 九九在线免费视频 | 国产精品99久久久精品免费观看 | 日韩在线精品视频 | 美女av免费看 | 亚洲专区路线二 | 久久免费视频8 | 国产精品久久久久久久久久ktv | 91亚洲精品国偷拍 | 国产成人久久av免费高清密臂 | 午夜免费在线观看 | 2019免费中文字幕 | 亚洲一区二区黄色 | 免费a视频在线观看 | 日本乱视频 | 97人人视频 | 国产亚洲永久域名 | 69精品| 最新国产精品拍自在线播放 | 中文伊人| 在线观看自拍 | 国产精品一区二区免费在线观看 | 中文字幕在线国产 | 亚洲涩涩涩涩涩涩 | 99精品视频在线播放观看 | 久久公开免费视频 | 五月激情丁香婷婷 | 亚洲精品玖玖玖av在线看 | www.亚洲黄 | 99九九免费视频 | 999精品 | 色99导航 | 在线欧美中文字幕 | 天天摸天天弄 | www狠狠| 一级特黄aaa大片在线观看 | 五月天亚洲综合小说网 | 91亚洲网 | 亚洲国产合集 | 日韩xxxx视频 | 国产亚洲精品久久 | 精品国产伦一区二区三区免费 | 久久丝袜视频 | 人人澡超碰碰97碰碰碰软件 | 天天爱天天爽 | 色就色,综合激情 | 免费视频区 | 国产黄色av影视 | 亚洲少妇xxxx | 高清av中文在线字幕观看1 | 亚洲精品久久久久中文字幕m男 | ww亚洲ww亚在线观看 | 精品亚洲va在线va天堂资源站 | 成人a免费看 | 亚洲综合视频在线 | av丁香花| 久久99精品国产一区二区三区 | 国产打女人屁股调教97 | 91手机视频在线 | 人人干人人爽 | 97超碰资源| 国产成人无码AⅤ片在线观 日韩av不卡在线 | 玖玖精品视频 | 久久久亚洲精品 | 狠狠色丁香婷婷综合久小说久 | 日日麻批40分钟视频免费观看 | www.在线观看视频 | 国产精品av免费 | 国产精品久久久久一区二区三区 | 黄色成人在线 | 麻豆视频在线免费观看 | 午夜视频免费播放 | 91av视频观看 | 国产精品去看片 | 欧美一级视频免费看 | 日韩精品一区二区三区视频播放 | 久草在线视频网 | 999国产在线 | 成人国产一区二区 | 最近最新mv字幕免费观看 | 五月天,com | 日韩欧美99 | 久久一级电影 | 美女精品在线观看 | 亚洲日本欧美在线 | www久久九 | 国产一卡在线 | 欧洲成人av | 五月天激情在线 | 99国产精品一区二区 | 久久综合九色综合97_ 久久久 | 久草视频在线免费播放 | 色香蕉在线视频 | 91麻豆精品91久久久久同性 | 国产美女免费视频 | 国产99久久久国产精品 | 免费高清在线视频一区· | 久久天天躁夜夜躁狠狠85麻豆 | 天堂网av在线 | 久久精品观看 | 久久久穴| 成人中文字幕+乱码+中文字幕 | 99c视频高清免费观看 | 亚洲精品视频偷拍 | 国产一级片不卡 | 日韩欧美在线一区 | 亚洲 欧美日韩 国产 中文 | 久久久国产视频 | 婷婷在线不卡 | 国产一级一级国产 | 精品久久久久久久久久久久 | 国产精品v欧美精品 | www久久com| 97超碰人人澡人人爱学生 | 午夜在线免费观看 | 麻豆免费观看视频 | 久久草视频| 日韩天天综合 | 欧美日韩一区二区视频在线观看 | 丁香婷婷激情国产高清秒播 | 亚洲精品www久久久久久 | 91精品蜜桃| 久99久精品视频免费观看 | 久久久91精品国产一区二区三区 | 国产成人一区二区三区影院在线 | 五月综合久久 | 日日爱影视 | 日韩成人欧美 | 一区二区三区在线观看中文字幕 | 国产精品一区二区果冻传媒 | 黄网站色成年免费观看 | 亚洲国产精品成人女人久久 | www.国产在线视频 | 91成人免费看 | 9992tv成人免费看片 | 久久亚洲福利视频 | 99视频精品视频高清免费 | 97在线免费观看 | 久久精品国产精品亚洲 | 精品一区精品二区 | 成人在线视频免费看 | av爱干| 国产不卡av在线 | 成人免费在线视频 | 国产午夜精品理论片在线 | 亚洲一级黄色 | 欧美成年黄网站色视频 | 在线一级片 | japanesexxx乱女另类| 碰超在线观看 | 久久乱码卡一卡2卡三卡四 五月婷婷久 | 骄小bbw搡bbbb揉bbbb | av夜夜操 | 日日日日干| 中文字幕在线观看免费高清电影 | 免费一级片在线 | 91亚色视频 | 波多野结衣在线中文字幕 | 日韩最新中文字幕 | 亚洲欧美视频在线观看 | 国产精品手机视频 | 免费国产ww| 国产精品在线看 | 久久99中文字幕 | 久久五月精品 | 免费久久久| 2023亚洲精品国偷拍自产在线 | 天天干天天干天天干天天干天天干天天干 | 国产亚洲一区 | 日韩丝袜在线观看 | 五月开心激情 | 999久久国产| 免费毛片一区二区三区久久久 | 国产精品青草综合久久久久99 | 看v片 | 国产97在线看 | 欧美与欧洲交xxxx免费观看 | 欧美另类一二三四区 | 国产99久久久国产精品免费二区 | 国产精品久久久久久一区二区三区 | 网站在线观看你们懂的 | ,久久福利影视 | 六月丁香色婷婷 | 国产黄色特级片 | 久久综合中文色婷婷 | 成人小视频免费在线观看 | 亚洲在线网址 | 久草在线视频资源 | 亚洲国产美女久久久久 | 欧美亚洲免费在线一区 | 五月天狠狠操 | 亚洲理论在线观看电影 | 亚洲成人免费在线 | 婷婷亚洲五月 | 久久影视一区二区 | av黄色亚洲 | 999一区二区三区 |