日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Openshift 4.4 静态 IP 离线安装系列:初始安装

發(fā)布時間:2025/3/11 编程问答 38 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Openshift 4.4 静态 IP 离线安装系列:初始安装 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

Openshift 4.4 靜態(tài) IP 離線安裝系列:初始安裝

上篇文章準(zhǔn)備了離線安裝 OCP 所需要的離線資源,包括安裝鏡像、所有樣例?Image Stream?和?OperatorHub?中的所有 RedHat Operators。本文就開始正式安裝?OCP(Openshift Container Platform) 集群,包括 DNS 解析、負(fù)載均衡配置、ignition?配置文件生成和集群部署。

OCP?安裝期間需要用到多個文件:安裝配置文件、Kubernetes 部署清單、Ignition 配置文件(包含了 machine types)。安裝配置文件將被轉(zhuǎn)換為 Kubernetes 部署清單,然后將清單包裝到?Ignition?配置文件中。?安裝程序使用這些?Ignition?配置文件來創(chuàng)建 Openshift 集群。運行安裝程序時,所有原始安裝配置文件都會修改,因此在安裝之前應(yīng)該先備份文件。

1. 安裝過程

在安裝 OCP 時,我們需要有一臺引導(dǎo)主機(jī)(Bootstrap)。這個主機(jī)可以訪問所有的 OCP 節(jié)點。引導(dǎo)主機(jī)啟動一個臨時控制平面,它啟動 OCP 集群的其余部分然后被銷毀。引導(dǎo)主機(jī)使用 Ignition 配置文件進(jìn)行集群安裝引導(dǎo),該文件描述了如何創(chuàng)建 OCP 集群。安裝程序生成的 Ignition 配置文件包含 24 小時后過期的證書,所以必須在證書過期之前完成集群安裝。

引導(dǎo)集群安裝包括如下步驟:

  • 引導(dǎo)主機(jī)啟動并開始托管?Master?節(jié)點啟動所需的資源。
  • Master?節(jié)點從引導(dǎo)主機(jī)遠(yuǎn)程獲取資源并完成引導(dǎo)。
  • Master?節(jié)點通過引導(dǎo)主機(jī)構(gòu)建?Etcd?集群。
  • 引導(dǎo)主機(jī)使用新的?Etcd?集群啟動臨時?Kubernetes?控制平面。
  • 臨時控制平面在 Master 節(jié)點啟動生成控制平面。
  • 臨時控制平面關(guān)閉并將控制權(quán)傳遞給生產(chǎn)控制平面。
  • 引導(dǎo)主機(jī)將 OCP 組件注入生成控制平面。
  • 安裝程序關(guān)閉引導(dǎo)主機(jī)。

引導(dǎo)安裝過程完成以后,OCP 集群部署完畢。然后集群開始下載并配置日常操作所需的其余組件,包括創(chuàng)建計算節(jié)點、通過?Operator?安裝其他服務(wù)等。

2. 準(zhǔn)備服務(wù)器資源

服務(wù)器規(guī)劃如下:

  • 三個控制平面節(jié)點,安裝?Etcd、控制平面組件和?Infras?基礎(chǔ)組件。
  • 兩個計算節(jié)點,運行實際負(fù)載。
  • 一個引導(dǎo)主機(jī),執(zhí)行安裝任務(wù),集群部署完成后可刪除。
  • 一個基礎(chǔ)節(jié)點,用于準(zhǔn)備上節(jié)提到的離線資源,同時用來部署 DNS 和負(fù)載均衡。
  • 一個鏡像節(jié)點,用來部署私有鏡像倉庫?Quay。
主機(jī)類型操作系統(tǒng)HostnamevCPU內(nèi)存存儲IPFQDN
鏡像節(jié)點RHEL 7.6registry48GB150GB192.168.57.70registry.openshift4.example.com
基礎(chǔ)節(jié)點RHEL 7.6bastion416GB120GB192.168.57.60bastion.openshift4.example.com
引導(dǎo)主機(jī)RHCOSbootstrap416GB120GB192.168.57.61bootstrap.openshift4.example.com
控制平面RHCOSmaster1416GB120GB192.168.57.62master1.openshift4.example.com
控制平面RHCOSmaster2416GB120GB192.168.57.63master2.openshift4.example.com
控制平面RHCOSmaster3416GB120GB192.168.57.64master3.openshift4.example.com
計算節(jié)點RHCOS 或 RHEL 7.6worker128GB120GB192.168.57.65worker1.openshift4.example.com
計算節(jié)點RHCOS 或 RHEL 7.6worker228GB120GB192.168.57.66worke2.openshift4.example.com

3. 防火墻配置

接下來看一下每個節(jié)點的端口號分配。

所有節(jié)點(計算節(jié)點和控制平面)之間需要開放的端口:

協(xié)議端口作用
ICMPN/A測試網(wǎng)絡(luò)連通性
TCP9000-9999節(jié)點的服務(wù)端口,包括 node exporter 使用的?9100-9101?端口和 Cluster Version Operator 使用的?9099?端口
?10250-10259Kubernetes 預(yù)留的默認(rèn)端口
?10256openshift-sdn
UDP4789VXLAN 協(xié)議或 GENEVE 協(xié)議的通信端口
?6081VXLAN 協(xié)議或 GENEVE 協(xié)議的通信端口
?9000-9999節(jié)點的服務(wù)端口,包括 node exporter 使用的?9100-9101?端口
?30000-32767Kubernetes NodePort

控制平面需要向其他節(jié)點開放的端口:

協(xié)議端口作用
TCP2379-2380Etcd 服務(wù)端口
?6443Kubernetes API

除此之外,還要配置兩個四層負(fù)載均衡器,一個用來暴露集群 API,一個用來暴露 Ingress:

端口作用內(nèi)部外部描述
6443引導(dǎo)主機(jī)和控制平面使用。在引導(dǎo)主機(jī)初始化集群控制平面后,需從負(fù)載均衡器中手動刪除引導(dǎo)主機(jī)xxKubernetes API server
22623引導(dǎo)主機(jī)和控制平面使用。在引導(dǎo)主機(jī)初始化集群控制平面后,需從負(fù)載均衡器中手動刪除引導(dǎo)主機(jī)?xMachine Config server
443Ingress Controller 或 Router 使用xxHTTPS 流量
80Ingress Controller 或 Router 使用xxHTTP 流量

4. 配置 DNS

按照官方文檔,使用 UPI 基礎(chǔ)架構(gòu)的 OCP 集群需要以下的 DNS 記錄。在每條記錄中,<cluster_name>?是集群名稱,<base_domain>?是在?install-config.yaml?文件中指定的集群基本域,如下表所示:

組件DNS記錄描述
Kubernetes APIapi.<cluster_name>.<base_domain>.此 DNS 記錄必須指向控制平面節(jié)點的負(fù)載均衡器。此記錄必須可由集群外部的客戶端和集群中的所有節(jié)點解析。
?api-int.<cluster_name>.<base_domain>.此 DNS 記錄必須指向控制平面節(jié)點的負(fù)載均衡器。此記錄必須可由集群外部的客戶端和集群中的所有節(jié)點解析。
Routes*.apps.<cluster_name>.<base_domain>.DNS 通配符記錄,指向負(fù)載均衡器。這個負(fù)載均衡器的后端是 Ingress router 所在的節(jié)點,默認(rèn)是計算節(jié)點。此記錄必須可由集群外部的客戶端和集群中的所有節(jié)點解析。
etcdetcd-<index>.<cluster_name>.<base_domain>.OCP 要求每個 etcd 實例的 DNS 記錄指向運行實例的控制平面節(jié)點。etcd 實例由 值區(qū)分,它們以?0?開頭,以?n-1?結(jié)束,其中?n?是集群中控制平面節(jié)點的數(shù)量。集群中的所有節(jié)點必須都可以解析此記錄。
?_etcd-server-ssl._tcp.<cluster_name>.<base_domain>.因為 etcd 使用端口?2380?對外服務(wù),因此需要建立對應(yīng)每臺 etcd 節(jié)點的 SRV DNS 記錄,優(yōu)先級 0,權(quán)重 10 和端口 2380

DNS 服務(wù)的部署方法由很多種,我當(dāng)然推薦使用?CoreDNS,畢竟云原生標(biāo)配。由于這里需要添加 SRV 記錄,所以需要 CoreDNS 結(jié)合?etcd?插件使用。以下所有操作在基礎(chǔ)節(jié)點上執(zhí)行。

首先通過 yum 安裝并啟動 etcd:

$ yum install -y etcd $ systemctl enable etcd --now復(fù)制代碼

然后下載 CoreDNS 二進(jìn)制文件:

$ wget https://github.com/coredns/coredns/releases/download/v1.6.9/coredns_1.6.9_linux_amd64.tgz $ tar zxvf coredns_1.6.9_linux_amd64.tgz $ mv coredns /usr/local/bin復(fù)制代碼

創(chuàng)建?Systemd Unit?文件:

$ cat > /etc/systemd/system/coredns.service <<EOF [Unit] Description=CoreDNS DNS server Documentation=https://coredns.io After=network.target[Service] PermissionsStartOnly=true LimitNOFILE=1048576 LimitNPROC=512 CapabilityBoundingSet=CAP_NET_BIND_SERVICE AmbientCapabilities=CAP_NET_BIND_SERVICE NoNewPrivileges=true User=coredns WorkingDirectory=~ ExecStart=/usr/local/bin/coredns -conf=/etc/coredns/Corefile ExecReload=/bin/kill -SIGUSR1 $MAINPID Restart=on-failure[Install] WantedBy=multi-user.target EOF復(fù)制代碼

新建?coredns?用戶:

$ useradd coredns -s /sbin/nologin復(fù)制代碼

新建 CoreDNS 配置文件:

$ cat > /etc/coredns/Corefile <<EOF .:53 { # 監(jiān)聽 TCP 和 UDP 的 53 端口template IN A apps.openshift4.example.com {match .*apps\.openshift4\.example\.com # 匹配請求 DNS 名稱的正則表達(dá)式answer "{{ .Name }} 60 IN A 192.168.57.60" # DNS 應(yīng)答fallthrough}etcd { # 配置啟用 etcd 插件,后面可以指定域名,例如 etcd test.com {path /skydns # etcd 里面的路徑 默認(rèn)為 /skydns,以后所有的 dns 記錄都存儲在該路徑下endpoint http://localhost:2379 # etcd 訪問地址,多個空格分開fallthrough # 如果區(qū)域匹配但不能生成記錄,則將請求傳遞給下一個插件# tls CERT KEY CACERT # 可選參數(shù),etcd 認(rèn)證證書設(shè)置}prometheus # 監(jiān)控插件cache 160loadbalance # 負(fù)載均衡,開啟 DNS 記錄輪詢策略forward . 192.168.57.1log # 打印日志 } EOF復(fù)制代碼

其中?template?插件用來實現(xiàn)泛域名解析。

啟動 CoreDNS 并設(shè)置開機(jī)自啟:

$ systemctl enable coredns --now復(fù)制代碼

驗證泛域名解析:

$ dig +short apps.openshift4.example.com @127.0.0.1 192.168.57.60$ dig +short x.apps.openshift4.example.com @127.0.0.1 192.168.57.60復(fù)制代碼

添加其余 DNS 記錄:

$ alias etcdctlv3='ETCDCTL_API=3 etcdctl' $ etcdctlv3 put /skydns/com/example/openshift4/api '{"host":"192.168.57.60","ttl":60}' $ etcdctlv3 put /skydns/com/example/openshift4/api-int '{"host":"192.168.57.60","ttl":60}'$ etcdctlv3 put /skydns/com/example/openshift4/etcd-0 '{"host":"192.168.57.62","ttl":60}' $ etcdctlv3 put /skydns/com/example/openshift4/etcd-1 '{"host":"192.168.57.63","ttl":60}' $ etcdctlv3 put /skydns/com/example/openshift4/etcd-2 '{"host":"192.168.57.64","ttl":60}'$ etcdctlv3 put /skydns/com/example/openshift4/_tcp/_etcd-server-ssl/x1 '{"host":"etcd-0.openshift4.example.com","ttl":60,"priority":0,"weight":10,"port":2380}' $ etcdctlv3 put /skydns/com/example/openshift4/_tcp/_etcd-server-ssl/x2 '{"host":"etcd-1.openshift4.example.com","ttl":60,"priority":0,"weight":10,"port":2380}' $ etcdctlv3 put /skydns/com/example/openshift4/_tcp/_etcd-server-ssl/x3 '{"host":"etcd-2.openshift4.example.com","ttl":60,"priority":0,"weight":10,"port":2380}'# 除此之外再添加各節(jié)點主機(jī)名記錄 $ etcdctlv3 put /skydns/com/example/openshift4/bootstrap '{"host":"192.168.57.61","ttl":60}' $ etcdctlv3 put /skydns/com/example/openshift4/master1 '{"host":"192.168.57.62","ttl":60}' $ etcdctlv3 put /skydns/com/example/openshift4/master2 '{"host":"192.168.57.63","ttl":60}' $ etcdctlv3 put /skydns/com/example/openshift4/master3 '{"host":"192.168.57.64","ttl":60}' $ etcdctlv3 put /skydns/com/example/openshift4/worker1 '{"host":"192.168.57.65","ttl":60}' $ etcdctlv3 put /skydns/com/example/openshift4/worker2 '{"host":"192.168.57.66","ttl":60}' $ etcdctlv3 put /skydns/com/example/openshift4/registry '{"host":"192.168.57.70","ttl":60}'復(fù)制代碼

驗證 DNS 解析:

$ yum install -y bind-utils $ dig +short api.openshift4.example.com @127.0.0.1 192.168.57.60$ dig +short api-int.openshift4.example.com @127.0.0.1 192.168.57.60$ dig +short etcd-0.openshift4.example.com @127.0.0.1 192.168.57.62 $ dig +short etcd-1.openshift4.example.com @127.0.0.1 192.168.57.63 $ dig +short etcd-2.openshift4.example.com @127.0.0.1 192.168.57.64$ dig +short -t SRV _etcd-server-ssl._tcp.openshift4.example.com @127.0.0.1 10 33 2380 etcd-0.openshift4.example.com. 10 33 2380 etcd-1.openshift4.example.com. 10 33 2380 etcd-2.openshift4.example.com.$ dig +short bootstrap.openshift4.example.com @127.0.0.1 192.168.57.61 $ dig +short master1.openshift4.example.com @127.0.0.1 192.168.57.62 $ dig +short master2.openshift4.example.com @127.0.0.1 192.168.57.63 $ dig +short master3.openshift4.example.com @127.0.0.1 192.168.57.64 $ dig +short worker1.openshift4.example.com @127.0.0.1 192.168.57.65 $ dig +short worker2.openshift4.example.com @127.0.0.1 192.168.57.66復(fù)制代碼

5. 配置負(fù)載均衡

負(fù)載均衡我選擇使用?Envoy,先準(zhǔn)備配置文件:

Bootstrap

# /etc/envoy/envoy.yaml node:id: node0cluster: cluster0 dynamic_resources:lds_config:path: /etc/envoy/lds.yamlcds_config:path: /etc/envoy/cds.yaml admin:access_log_path: "/dev/stdout"address:socket_address:address: "0.0.0.0"port_value: 15001復(fù)制代碼

LDS

# /etc/envoy/lds.yaml version_info: "0" resources: - "@type": type.googleapis.com/envoy.config.listener.v3.Listenername: listener_openshift-api-serveraddress:socket_address:address: 0.0.0.0port_value: 6443filter_chains:- filters:- name: envoy.tcp_proxytyped_config:"@type": type.googleapis.com/envoy.extensions.filters.network.tcp_proxy.v3.TcpProxystat_prefix: openshift-api-servercluster: openshift-api-serveraccess_log:name: envoy.access_loggers.filetyped_config:"@type": type.googleapis.com/envoy.extensions.access_loggers.file.v3.FileAccessLogpath: /dev/stdout - "@type": type.googleapis.com/envoy.config.listener.v3.Listenername: listener_machine-config-serveraddress:socket_address:address: "::"ipv4_compat: trueport_value: 22623filter_chains:- filters:- name: envoy.tcp_proxytyped_config:"@type": type.googleapis.com/envoy.extensions.filters.network.tcp_proxy.v3.TcpProxystat_prefix: machine-config-servercluster: machine-config-serveraccess_log:name: envoy.access_loggers.filetyped_config:"@type": type.googleapis.com/envoy.extensions.access_loggers.file.v3.FileAccessLogpath: /dev/stdout - "@type": type.googleapis.com/envoy.config.listener.v3.Listenername: listener_ingress-httpaddress:socket_address:address: "::"ipv4_compat: trueport_value: 80filter_chains:- filters:- name: envoy.tcp_proxytyped_config:"@type": type.googleapis.com/envoy.extensions.filters.network.tcp_proxy.v3.TcpProxystat_prefix: ingress-httpcluster: ingress-httpaccess_log:name: envoy.access_loggers.filetyped_config:"@type": type.googleapis.com/envoy.extensions.access_loggers.file.v3.FileAccessLogpath: /dev/stdout - "@type": type.googleapis.com/envoy.config.listener.v3.Listenername: listener_ingress-httpsaddress:socket_address:address: "::"ipv4_compat: trueport_value: 443filter_chains:- filters:- name: envoy.tcp_proxytyped_config:"@type": type.googleapis.com/envoy.extensions.filters.network.tcp_proxy.v3.TcpProxystat_prefix: ingress-httpscluster: ingress-httpsaccess_log:name: envoy.access_loggers.filetyped_config:"@type": type.googleapis.com/envoy.extensions.access_loggers.file.v3.FileAccessLogpath: /dev/stdout復(fù)制代碼

CDS

# /etc/envoy/cds.yaml version_info: "0" resources: - "@type": type.googleapis.com/envoy.config.cluster.v3.Clustername: openshift-api-serverconnect_timeout: 1stype: strict_dnsdns_lookup_family: V4_ONLYlb_policy: ROUND_ROBINload_assignment:cluster_name: openshift-api-serverendpoints:- lb_endpoints:- endpoint:address:socket_address:address: 192.168.57.61port_value: 6443- endpoint:address:socket_address:address: 192.168.57.62port_value: 6443- endpoint:address:socket_address:address: 192.168.57.63port_value: 6443- endpoint:address:socket_address:address: 192.168.57.64port_value: 6443 - "@type": type.googleapis.com/envoy.config.cluster.v3.Clustername: machine-config-serverconnect_timeout: 1stype: strict_dnsdns_lookup_family: V4_ONLYlb_policy: ROUND_ROBINload_assignment:cluster_name: machine-config-serverendpoints:- lb_endpoints:- endpoint:address:socket_address:address: 192.168.57.61port_value: 22623- endpoint:address:socket_address:address: 192.168.57.62port_value: 22623- endpoint:address:socket_address:address: 192.168.57.63port_value: 22623- endpoint:address:socket_address:address: 192.168.57.64port_value: 22623 - "@type": type.googleapis.com/envoy.config.cluster.v3.Clustername: ingress-httpconnect_timeout: 1stype: strict_dnsdns_lookup_family: V4_ONLYlb_policy: ROUND_ROBINload_assignment:cluster_name: ingress-httpendpoints:- lb_endpoints:- endpoint:address:socket_address:address: 192.168.57.65port_value: 80- endpoint:address:socket_address:address: 192.168.57.66port_value: 80 - "@type": type.googleapis.com/envoy.config.cluster.v3.Clustername: ingress-httpsconnect_timeout: 1stype: strict_dnsdns_lookup_family: V4_ONLYlb_policy: ROUND_ROBINload_assignment:cluster_name: ingress-httpsendpoints:- lb_endpoints:- endpoint:address:socket_address:address: 192.168.57.65port_value: 443- endpoint:address:socket_address:address: 192.168.57.66port_value: 443復(fù)制代碼

配置看不懂的去看我的電子書:Envoy 中文指南

啟動?Envoy:

$ podman run -d --restart=always --name envoy --net host -v /etc/envoy:/etc/envoy envoyproxy/envoy復(fù)制代碼

6. 安裝準(zhǔn)備

生成 SSH 私鑰并將其添加到 agent

在安裝過程中,我們會在基礎(chǔ)節(jié)點上執(zhí)行 OCP 安裝調(diào)試和災(zāi)難恢復(fù),因此必須在基礎(chǔ)節(jié)點上配置 SSH key,ssh-agent?將會用它來執(zhí)行安裝程序。

基礎(chǔ)節(jié)點上的?core?用戶可以使用該私鑰登錄到 Master 節(jié)點。部署集群時,該私鑰會被添加到 core 用戶的?~/.ssh/authorized_keys?列表中。

密鑰創(chuàng)建步驟如下:

① 創(chuàng)建無密碼驗證的 SSH key:

$ ssh-keygen -t rsa -b 4096 -N '' -f ~/.ssh/new_rsa復(fù)制代碼

② 啟動?ssh-agent?進(jìn)程作為后臺任務(wù):

$ eval "$(ssh-agent -s)"復(fù)制代碼

③ 將 SSH 私鑰添加到?ssh-agent:

$ ssh-add ~/.ssh/new_rsa復(fù)制代碼

后續(xù)集群安裝過程中,有一步會提示輸入 SSH public key,屆時使用前面創(chuàng)建的公鑰?new_rsa.pub?就可以了。

獲取安裝程序

如果是在線安裝,還需要在基礎(chǔ)節(jié)點上下載安裝程序。但這里是離線安裝,安裝程序在上篇文章中已經(jīng)被提取出來了,所以不需要再下載。

創(chuàng)建安裝配置文件

首先創(chuàng)建一個安裝目錄,用來存儲安裝所需要的文件:

$ mkdir /ocpinstall復(fù)制代碼

自定義?install-config.yaml?并將其保存在?/ocpinstall?目錄中。配置文件必須命名為?install-config.yaml。配置文件內(nèi)容:

apiVersion: v1 baseDomain: example.com compute: - hyperthreading: Enabledname: workerreplicas: 0 controlPlane:hyperthreading: Enabledname: masterreplicas: 3 metadata:name: openshift4 networking:clusterNetwork:- cidr: 10.128.0.0/14hostPrefix: 23networkType: OpenShiftSDNserviceNetwork:- 172.30.0.0/16 platform:none: {} fips: false pullSecret: '{"auths": ...}' sshKey: 'ssh-rsa ...' additionalTrustBundle: |-----BEGIN CERTIFICATE-----省略,注意這里要前面空兩格-----END CERTIFICATE----- imageContentSources: - mirrors:- registry.openshift4.example.com/ocp4/openshift4source: quay.io/openshift-release-dev/ocp-release - mirrors:- registry.openshift4.example.com/ocp4/openshift4source: quay.io/openshift-release-dev/ocp-v4.0-art-dev復(fù)制代碼
  • baseDomain?: 所有 Openshift 內(nèi)部的 DNS 記錄必須是此基礎(chǔ)的子域,并包含集群名稱。
  • compute?: 計算節(jié)點配置。這是一個數(shù)組,每一個元素必須以連字符?-?開頭。
  • hyperthreading?: Enabled 表示啟用同步多線程或超線程。默認(rèn)啟用同步多線程,可以提高機(jī)器內(nèi)核的性能。如果要禁用,則控制平面和計算節(jié)點都要禁用。
  • compute.replicas?: 計算節(jié)點數(shù)量。因為我們要手動創(chuàng)建計算節(jié)點,所以這里要設(shè)置為 0。
  • controlPlane.replicas?: 控制平面節(jié)點數(shù)量。控制平面節(jié)點數(shù)量必須和 etcd 節(jié)點數(shù)量一致,為了實現(xiàn)高可用,本文設(shè)置為 3。
  • metadata.name?: 集群名稱。即前面 DNS 記錄中的?<cluster_name>。
  • cidr?: 定義了分配 Pod IP 的 IP 地址段,不能和物理網(wǎng)絡(luò)重疊。
  • hostPrefix?: 分配給每個節(jié)點的子網(wǎng)前綴長度。例如,如果將?hostPrefix?設(shè)置為?23,則為每一個節(jié)點分配一個給定 cidr 的?/23?子網(wǎng),允許 $510 (2^{32 - 23} - 2)$ 個 Pod IP 地址。
  • serviceNetwork?: Service IP 的地址池,只能設(shè)置一個。
  • pullSecret?: 上篇文章使用的 pull secret,可通過命令?cat /root/pull-secret.json|jq -c?來壓縮成一行。
  • sshKey?: 上面創(chuàng)建的公鑰,可通過命令?cat ~/.ssh/new_rsa.pub?查看。
  • additionalTrustBundle?: 私有鏡像倉庫 Quay 的信任證書,可在鏡像節(jié)點上通過命令?cat /data/quay/config/ssl.cert?查看。
  • imageContentSources?: 來自前面?oc adm release mirror?的輸出結(jié)果。

備份安裝配置文件,便于以后重復(fù)使用:

$ cd /ocpinstall $ cp install-config.yaml install-config.yaml.20200604復(fù)制代碼

創(chuàng)建 Kubernetes 部署清單

創(chuàng)建 Kubernetes 部署清單后?install-config.yaml?將被刪除,請務(wù)必先備份此文件!

創(chuàng)建 Kubernetes 部署清單文件:

$ openshift-install create manifests --dir=/ocpinstall復(fù)制代碼

修改?manifests/cluster-scheduler-02-config.yml?文件,將?mastersSchedulable?的值設(shè)為?flase,以防止 Pod 調(diào)度到控制節(jié)點。

創(chuàng)建 Ignition 配置文件

創(chuàng)建 Ignition 配置文件后?install-config.yaml?將被刪除,請務(wù)必先備份此文件!

$ cp install-config.yaml.20200604 install-config.yaml $ openshift-install create ignition-configs --dir=/ocpinstall復(fù)制代碼

生成的文件:

├── auth │?? ├── kubeadmin-password │?? └── kubeconfig ├── bootstrap.ign ├── master.ign ├── metadata.json └── worker.ign復(fù)制代碼

準(zhǔn)備一個 HTTP 服務(wù),這里選擇使用 Nginx:

$ yum install -y nginx復(fù)制代碼

修改 Nginx 的配置文件?/etc/nginx/nginx/.conf,將端口改為?8080(因為負(fù)載均衡器已經(jīng)占用了 80 端口)。然后啟動 Nginx 服務(wù):

$ systemctl enable nginx --now復(fù)制代碼

將?Ignition?配置文件拷貝到 HTTP 服務(wù)的 ignition 目錄:

$ mkdir /usr/share/nginx/html/ignition $ cp -r *.ign /usr/share/nginx/html/ignition/復(fù)制代碼

獲取 RHCOS 的 BIOS 文件

下載用于裸機(jī)安裝的 BIOS 文件,并上傳到 Nginx 的目錄:

$ mkdir /usr/share/nginx/html/install $ wget https://mirror.openshift.com/pub/openshift-v4/dependencies/rhcos/4.4/latest/rhcos-4.4.3-x86_64-metal.x86_64.raw.gz -O /usr/share/nginx/html/install/rhcos-4.4.3-x86_64-metal.x86_64.raw.gz復(fù)制代碼

獲取 RHCOS 的 ISO 文件

本地下載 RHCOS 的?ISO?文件:mirror.openshift.com/pub/openshi…,然后上傳到?vSphere。步驟如下:

① 首先登陸 vSphere,然后點擊『存儲』。?

② 選擇一個『數(shù)據(jù)存儲』,然后在右邊的窗口中選擇『上載文件』。

③ 選擇剛剛下載的 ISO 文件,上傳到 ESXI 主機(jī)。

7. 安裝集群

Bootstrap

最后開始正式安裝集群,先創(chuàng)建 bootstrap 節(jié)點虛擬機(jī),操作系統(tǒng)選擇『Red Hat Enterprise Linux 7 (64-Bit)』,并掛載之前上傳的 ISO,按照之前的表格設(shè)置 CPU 、內(nèi)存和硬盤,打開電源,然后按照下面的步驟操作:

① 在 RHCOS Installer 安裝界面按?Tab?鍵進(jìn)入引導(dǎo)參數(shù)配置選項。

② 在默認(rèn)選項?coreos.inst = yes?之后添加(由于無法拷貝粘貼,請輸入仔細(xì)核對后再回車進(jìn)行):

ip=192.168.57.61::192.168.57.1:255.255.255.0:bootstrap.openshift4.example.com:ens192:none nameserver=192.168.57.60 coreos.inst.install_dev=sda coreos.inst.image_url=http://192.168.57.60:8080/install/rhcos-4.4.3-x86_64-metal.x86_64.raw.gz coreos.inst.ignition_url=http://192.168.57.60:8080/ignition/bootstrap.ign 復(fù)制代碼

其中?ip=...?的含義為?ip=$IPADDRESS::$DEFAULTGW:$NETMASK:$HOSTNAMEFQDN:$IFACE:none。

如圖所示:

③ 如果安裝有問題會進(jìn)入?emergency shell,檢查網(wǎng)絡(luò)、域名解析是否正常,如果正常一般是以上參數(shù)輸入有誤,reboot 退出 shell 回到第一步重新開始。

安裝成功后從基礎(chǔ)節(jié)點通過命令?ssh -i ~/.ssh/new_rsa core@192.168.57.61?登錄 bootstrap 節(jié)點,然后驗證:

  • 網(wǎng)絡(luò)配置是否符合自己的設(shè)定:
    • hostname
    • ip route
    • cat /etc/resolv.conf
  • 驗證是否成功啟動 bootstrap 相應(yīng)服務(wù):
    • podman ps?查看服務(wù)是否以容器方式運行
    • 使用?ss -tulnp?查看 6443 和 22623 端口是否啟用。

這里簡單介紹一下 bootstrap 節(jié)點的啟動流程,它會先通過?podman?跑一些容器,然后在容器里面啟動臨時控制平面,這個臨時控制平面是通過?CRIO?跑在容器里的,有點繞。。直接看命令:

$ podman ps -a --no-trunc --sort created --format "{{.Command}}"start --tear-down-early=false --asset-dir=/assets --required-pods=openshift-kube-apiserver/kube-apiserver,openshift-kube-scheduler/openshift-kube-scheduler,openshift-kube-controller-manager/kube-controller-manager,openshift-cluster-version/cluster-version-operator /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml render --dest-dir=/assets/cco-bootstrap --cloud-credential-operator-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:244ab9d0fcf7315eb5c399bd3fa7c2e662cf23f87f625757b13f415d484621c3 bootstrap --etcd-ca=/assets/tls/etcd-ca-bundle.crt --etcd-metric-ca=/assets/tls/etcd-metric-ca-bundle.crt --root-ca=/assets/tls/root-ca.crt --kube-ca=/assets/tls/kube-apiserver-complete-client-ca-bundle.crt --config-file=/assets/manifests/cluster-config.yaml --dest-dir=/assets/mco-bootstrap --pull-secret=/assets/manifests/openshift-config-secret-pull-secret.yaml --etcd-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:aba3c59eb6d088d61b268f83b034230b3396ce67da4f6f6d49201e55efebc6b2 --kube-client-agent-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:8eb481214103d8e0b5fe982ffd682f838b969c8ff7d4f3ed4f83d4a444fb841b --machine-config-operator-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:31dfdca3584982ed5a82d3017322b7d65a491ab25080c427f3f07d9ce93c52e2 --machine-config-oscontent-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:b397960b7cc14c2e2603111b7385c6e8e4b0f683f9873cd9252a789175e5c4e1 --infra-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:d7862a735f492a18cb127742b5c2252281aa8f3bd92189176dd46ae9620ee68a --keepalived-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:a882a11b55b2fc41b538b59bf5db8e4cfc47c537890e4906fe6bf22f9da75575 --coredns-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:b25b8b2219e8c247c088af93e833c9ac390bc63459955e131d89b77c485d144d --mdns-publisher-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:dea1fcb456eae4aabdf5d2d5c537a968a2dafc3da52fe20e8d99a176fccaabce --haproxy-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:7064737dd9d0a43de7a87a094487ab4d7b9e666675c53cf4806d1c9279bd6c2e --baremetal-runtimecfg-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:715bc48eda04afc06827189883451958d8940ed8ab6dd491f602611fe98a6fba --cloud-config-file=/assets/manifests/cloud-provider-config.yaml --cluster-etcd-operator-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:9f7a02df3a5d91326d95e444e2e249f8205632ae986d6dccc7f007ec65c8af77 render --prefix=cluster-ingress- --output-dir=/assets/ingress-operator-manifests /usr/bin/cluster-kube-scheduler-operator render --manifest-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:187b9d29fea1bde9f1785584b4a7bbf9a0b9f93e1323d92d138e61c861b6286c --asset-input-dir=/assets/tls --asset-output-dir=/assets/kube-scheduler-bootstrap --config-output-file=/assets/kube-scheduler-bootstrap/config /usr/bin/cluster-kube-controller-manager-operator render --manifest-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:187b9d29fea1bde9f1785584b4a7bbf9a0b9f93e1323d92d138e61c861b6286c --asset-input-dir=/assets/tls --asset-output-dir=/assets/kube-controller-manager-bootstrap --config-output-file=/assets/kube-controller-manager-bootstrap/config --cluster-config-file=/assets/manifests/cluster-network-02-config.yml /usr/bin/cluster-kube-apiserver-operator render --manifest-etcd-serving-ca=etcd-ca-bundle.crt --manifest-etcd-server-urls=https://localhost:2379 --manifest-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:187b9d29fea1bde9f1785584b4a7bbf9a0b9f93e1323d92d138e61c861b6286c --manifest-operator-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:718ca346d5499cccb4de98c1f858c9a9a13bbf429624226f466c3ee2c14ebf40 --asset-input-dir=/assets/tls --asset-output-dir=/assets/kube-apiserver-bootstrap --config-output-file=/assets/kube-apiserver-bootstrap/config --cluster-config-file=/assets/manifests/cluster-network-02-config.yml /usr/bin/cluster-config-operator render --config-output-file=/assets/config-bootstrap/config --asset-input-dir=/assets/tls --asset-output-dir=/assets/config-bootstrap /usr/bin/cluster-etcd-operator render --etcd-ca=/assets/tls/etcd-ca-bundle.crt --etcd-metric-ca=/assets/tls/etcd-metric-ca-bundle.crt --manifest-etcd-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:aba3c59eb6d088d61b268f83b034230b3396ce67da4f6f6d49201e55efebc6b2 --etcd-discovery-domain=test.example.com --manifest-cluster-etcd-operator-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:9f7a02df3a5d91326d95e444e2e249f8205632ae986d6dccc7f007ec65c8af77 --manifest-setup-etcd-env-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:31dfdca3584982ed5a82d3017322b7d65a491ab25080c427f3f07d9ce93c52e2 --manifest-kube-client-agent-image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:8eb481214103d8e0b5fe982ffd682f838b969c8ff7d4f3ed4f83d4a444fb841b --asset-input-dir=/assets/tls --asset-output-dir=/assets/etcd-bootstrap --config-output-file=/assets/etcd-bootstrap/config --cluster-config-file=/assets/manifests/cluster-network-02-config.yml render --output-dir=/assets/cvo-bootstrap --release-image=registry.openshift4.example.com/ocp4/openshift4@sha256:4a461dc23a9d323c8bd7a8631bed078a9e5eec690ce073f78b645c83fb4cdf74 /usr/bin/grep -oP Managed /manifests/0000_12_etcd-operator_01_operator.cr.yaml復(fù)制代碼 $ crictl podsPOD ID CREATED STATE NAME NAMESPACE ATTEMPT 17a978b9e7b1e 3 minutes ago Ready bootstrap-kube-apiserver-bootstrap.openshift4.example.com kube-system 24 8a0f79f38787a 3 minutes ago Ready bootstrap-kube-scheduler-bootstrap.openshift4.example.com kube-system 4 1a707da797173 3 minutes ago Ready bootstrap-kube-controller-manager-bootstrap.openshift4.example.com kube-system 4 0461d2caa2753 3 minutes ago Ready cloud-credential-operator-bootstrap.openshift4.example.com openshift-cloud-credential-operator 4 ab6519286f65a 3 minutes ago Ready bootstrap-cluster-version-operator-bootstrap.openshift4.example.com openshift-cluster-version 2 457a7a46ec486 8 hours ago Ready bootstrap-machine-config-operator-bootstrap.openshift4.example.com default 0 e4df49b4d36a1 8 hours ago Ready etcd-bootstrap-member-bootstrap.openshift4.example.com openshift-etcd 0復(fù)制代碼

如果驗證無問題,則可以一邊繼續(xù)下面的步驟一邊觀察日志:journalctl -b -f -u bootkube.service

RHCOS 的默認(rèn)用戶是?core,如果想獲取 root 權(quán)限,可以執(zhí)行命令?sudo su(不需要輸入密碼)。

Master

控制節(jié)點和之前類似,先創(chuàng)建虛擬機(jī),然后修改引導(dǎo)參數(shù),引導(dǎo)參數(shù)調(diào)整為:

ip=192.168.57.62::192.168.57.1:255.255.255.0:master1.openshift4.example.com:ens192:none nameserver=192.168.57.60 coreos.inst.install_dev=sda coreos.inst.image_url=http://192.168.57.60:8080/install/rhcos-4.4.3-x86_64-metal.x86_64.raw.gz coreos.inst.ignition_url=http://192.168.57.60:8080/ignition/master.ign 復(fù)制代碼

控制節(jié)點安裝成功后會重啟一次,之后同樣可以從基礎(chǔ)節(jié)點通過 SSH 密鑰登錄。

然后重復(fù)相同的步驟創(chuàng)建其他兩臺控制節(jié)點,注意修改引導(dǎo)參數(shù)(IP 和主機(jī)名)。先不急著創(chuàng)建計算節(jié)點,先在基礎(chǔ)節(jié)點執(zhí)行以下命令完成生產(chǎn)控制平面的創(chuàng)建:

$ openshift-install --dir=/ocpinstall wait-for bootstrap-complete --log-level=debugDEBUG OpenShift Installer 4.4.5 DEBUG Built from commit 15eac3785998a5bc250c9f72101a4a9cb767e494 INFO Waiting up to 20m0s for the Kubernetes API at https://api.openshift4.example.com:6443... INFO API v1.17.1 up INFO Waiting up to 40m0s for bootstrapping to complete... DEBUG Bootstrap status: complete INFO It is now safe to remove the bootstrap resources復(fù)制代碼

待出現(xiàn)?It is now safe to remove the bootstrap resources?提示之后,從負(fù)載均衡器中刪除引導(dǎo)主機(jī),本文使用的是 Envoy,只需從?cds.yaml?中刪除引導(dǎo)主機(jī)的 endpoint,然后重新加載就好了。

觀察引導(dǎo)節(jié)點的日志:

$ journalctl -b -f -u bootkube.service... Jun 05 00:24:12 bootstrap.openshift4.example.com bootkube.sh[12571]: I0605 00:24:12.108179 1 waitforceo.go:67] waiting on condition EtcdRunningInCluster in etcd CR /cluster to be True. Jun 05 00:24:21 bootstrap.openshift4.example.com bootkube.sh[12571]: I0605 00:24:21.595680 1 waitforceo.go:67] waiting on condition EtcdRunningInCluster in etcd CR /cluster to be True. Jun 05 00:24:26 bootstrap.openshift4.example.com bootkube.sh[12571]: I0605 00:24:26.250214 1 waitforceo.go:67] waiting on condition EtcdRunningInCluster in etcd CR /cluster to be True. Jun 05 00:24:26 bootstrap.openshift4.example.com bootkube.sh[12571]: I0605 00:24:26.306421 1 waitforceo.go:67] waiting on condition EtcdRunningInCluster in etcd CR /cluster to be True. Jun 05 00:24:29 bootstrap.openshift4.example.com bootkube.sh[12571]: I0605 00:24:29.097072 1 waitforceo.go:64] Cluster etcd operator bootstrapped successfully Jun 05 00:24:29 bootstrap.openshift4.example.com bootkube.sh[12571]: I0605 00:24:29.097306 1 waitforceo.go:58] cluster-etcd-operator bootstrap etcd Jun 05 00:24:29 bootstrap.openshift4.example.com podman[16531]: 2020-06-05 00:24:29.120864426 +0000 UTC m=+17.965364064 container died 77971b6ca31755a89b279fab6f9c04828c4614161c2e678c7cba48348e684517 (image=quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:9f7a02df3a5d91326d95e444e2e249f8205632ae986d6dccc7f007ec65c8af77, name=recursing_cerf) Jun 05 00:24:29 bootstrap.openshift4.example.com bootkube.sh[12571]: bootkube.service complete復(fù)制代碼

Worker

計算節(jié)點和之前類似,先創(chuàng)建虛擬機(jī),然后修改引導(dǎo)參數(shù),引導(dǎo)參數(shù)調(diào)整為:

ip=192.168.57.65::192.168.57.1:255.255.255.0:worker1.openshift4.example.com:ens192:none nameserver=192.168.57.60 coreos.inst.install_dev=sda coreos.inst.image_url=http://192.168.57.60:8080/install/rhcos-4.4.3-x86_64-metal.x86_64.raw.gz coreos.inst.ignition_url=http://192.168.57.60:8080/ignition/worker.ign 復(fù)制代碼

計算節(jié)點安裝成功后也會重啟一次,之后同樣可以從基礎(chǔ)節(jié)點通過 SSH 密鑰登錄。

然后重復(fù)相同的步驟創(chuàng)建其他計算節(jié)點,注意修改引導(dǎo)參數(shù)(IP 和主機(jī)名)。

登錄集群

可以通過導(dǎo)出集群 kubeconfig 文件以默認(rèn)系統(tǒng)用戶身份登錄到集群。kubeconfig 文件包含有關(guān) CLI 用于將客戶端連接到正確的集群和 API Server 的集群信息,該文件在 OCP 安裝期間被創(chuàng)建。

$ mkdir ~/.kube $ cp /ocpinstall/auth/kubeconfig ~/.kube/config $ oc whoami system:admin復(fù)制代碼

批準(zhǔn) CSR

將節(jié)點添加到集群時,會為添加的每臺節(jié)點生成兩個待處理證書簽名請求(CSR)。必須確認(rèn)這些 CSR 已獲得批準(zhǔn),或者在必要時自行批準(zhǔn)。

$ oc get nodeNAME STATUS ROLES AGE VERSION master1.openshift4.example.com Ready master,worker 6h25m v1.17.1 master2.openshift4.example.com Ready master,worker 6h39m v1.17.1 master3.openshift4.example.com Ready master,worker 6h15m v1.17.1 worker1.openshift4.example.com NotReady worker 5h8m v1.17.1 worker2.openshift4.example.com NotReady worker 5h9m v1.17.1復(fù)制代碼

輸出列出了創(chuàng)建的所有節(jié)點。查看掛起的證書簽名請求(CSR),并確保添加到集群的每臺節(jié)點都能看到具有?Pending?或?Approved?狀態(tài)的客戶端和服務(wù)端請求。針對 Pending 狀態(tài)的 CSR 批準(zhǔn)請求:

$ oc adm certificate approve xxx復(fù)制代碼

或者執(zhí)行以下命令批準(zhǔn)所有 CSR:

$ oc get csr -ojson | jq -r '.items[] | select(.status == {} ) | .metadata.name' | xargs oc adm certificate approve復(fù)制代碼

Operator 自動初始化

控制平面初始化后,需要確認(rèn)所有的?Operator?都處于可用的狀態(tài),即確認(rèn)所有 Operator 的?Available?字段值皆為?True:

$ oc get clusteroperatorsNAME VERSION AVAILABLE PROGRESSING DEGRADED SINCE authentication 4.4.5 True False False 150m cloud-credential 4.4.5 True False False 7h7m cluster-autoscaler 4.4.5 True False False 6h12m console 4.4.5 True False False 150m csi-snapshot-controller 4.4.5 True False False 6h13m dns 4.4.5 True False False 6h37m etcd 4.4.5 True False False 6h19m image-registry 4.4.5 True False False 6h12m ingress 4.4.5 True False False 150m insights 4.4.5 True False False 6h13m kube-apiserver 4.4.5 True False False 6h15m kube-controller-manager 4.4.5 True False False 6h36m kube-scheduler 4.4.5 True False False 6h36m kube-storage-version-migrator 4.4.5 True False False 6h36m machine-api 4.4.5 True False False 6h37m machine-config 4.4.5 True False False 6h36m marketplace 4.4.5 True False False 6h12m monitoring 4.4.5 True False False 6h6m network 4.4.5 True False False 6h39m node-tuning 4.4.5 True False False 6h38m openshift-apiserver 4.4.5 True False False 6h14m openshift-controller-manager 4.4.5 True False False 6h12m openshift-samples 4.4.5 True False False 6h11m operator-lifecycle-manager 4.4.5 True False False 6h37m operator-lifecycle-manager-catalog 4.4.5 True False False 6h37m operator-lifecycle-manager-packageserver 4.4.5 True False False 6h15m service-ca 4.4.5 True False False 6h38m service-catalog-apiserver 4.4.5 True False False 6h38m service-catalog-controller-manager 4.4.5 True False False 6h39m storage 4.4.5 True False False 6h12m復(fù)制代碼

如果 Operator 不正常,需要進(jìn)行問題診斷和修復(fù)。

完成安裝

最后一步,完成集群的安裝,執(zhí)行以下命令:

$ openshift-install --dir=/ocpinstall wait-for install-complete --log-level=debug復(fù)制代碼

注意最后提示訪問?Web Console?的網(wǎng)址及用戶密碼。如果密碼忘了也沒關(guān)系,可以查看文件?/ocpinstall/auth/kubeadmin-password?來獲得密碼。

本地訪問 Web Console,需要添加 hosts:

192.168.57.60 console-openshift-console.apps.openshift4.example.com 192.168.57.60 oauth-openshift.apps.openshift4.example.com復(fù)制代碼

瀏覽器訪問?https://console-openshift-console.apps.openshift4.example.com,輸入上面輸出的用戶名密碼登錄。首次登錄后會提示:

You are logged in as a temporary administrative user. Update the Cluster OAuth configuration to allow others to log in.復(fù)制代碼

我們可以通過 htpasswd 自定義管理員賬號,步驟如下:

①?htpasswd -c -B -b users.htpasswd admin xxxxx

② 將?users.htpasswd?文件下載到本地。

③ 在 Web Console 頁面打開?Global Configuration:

然后找到?OAuth,點擊進(jìn)入,然后添加?HTPasswd?類型的?Identity Providers,并上傳?users.htpasswd?文件。

④ 退出當(dāng)前用戶,注意要退出到如下界面:

選擇?htpasswd,然后輸入之前創(chuàng)建的用戶名密碼登錄。

如果退出后出現(xiàn)的就是用戶密碼輸入窗口,實際還是?kube:admin?的校驗,如果未出現(xiàn)如上提示,可以手動輸入 Web Console 地址來自動跳轉(zhuǎn)。

⑤ 登錄后貌似能看到?Administrator?菜單項,但訪問如?OAuth Details?仍然提示:

oauths.config.openshift.io "cluster" is forbidden: User "admin" cannot get resource "oauths" in API group "config.openshift.io" at the cluster scope復(fù)制代碼

因此需要授予集群管理員權(quán)限:

$ oc adm policy add-cluster-role-to-user cluster-admin admin復(fù)制代碼

Web Console 部分截圖:

如果想刪除默認(rèn)賬號,可以執(zhí)行以下命令:

$ oc -n kube-system delete secrets kubeadmin

總結(jié)

以上是生活随笔為你收集整理的Openshift 4.4 静态 IP 离线安装系列:初始安装的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。

av888av.com| 国产精品视频观看 | 国产青草视频在线观看 | 视频一区视频二区在线观看 | 精品国产一区二区三区久久久蜜臀 | 亚洲精品视频偷拍 | 黄色在线免费观看网站 | 日韩在线观看一区二区 | 丰满少妇麻豆av | 国产精品一区二区三区久久久 | 成人国产网站 | 午夜精品av在线 | 91探花系列在线播放 | 亚洲天堂香蕉 | 欧美韩国日本在线 | 国产精品亚 | 91麻豆精品国产91久久久更新时间 | 91男人影院| 黄色三级免费片 | 亚洲高清在线精品 | 香蕉视频在线网站 | 久久精品国产美女 | 九九视频精品免费 | 婷婷激情五月综合 | 天天干天天干天天干 | 香蕉91视频 | 狠狠色丁香久久婷婷综合五月 | 国产视频一区在线免费观看 | 日韩中文三级 | 精品一区二区在线看 | 四虎免费在线观看视频 | 中文字幕美女免费在线 | 国产精品久久久久久久久久久久午 | 免费日韩一区 | 日韩av进入 | 中文字幕在线影院 | 国产免费观看视频 | 日韩av免费在线看 | av在线播放一区二区三区 | 久久精品中文字幕少妇 | 色欧美视频 | 国产精品久久久久一区二区三区共 | 国产麻豆精品在线观看 | 久久免费av电影 | 国产精品一区二区久久国产 | 人人爱天天操 | 国产中文字幕在线看 | 久久精品一区二区 | www在线观看视频 | 久久久91精品国产 | 久久综合九色综合欧美狠狠 | av黄色av | 黄色电影在线免费观看 | 五月婷婷av在线 | 色综合久| 91热爆视频 | 亚洲精品国产片 | 成人av电影在线观看 | 精品一区二区在线播放 | 亚洲精品欧美视频 | 亚洲国产中文字幕在线观看 | 人人玩人人爽 | 麻豆果冻剧传媒在线播放 | 干干干操操操 | 在线网站黄 | 天堂av在线7| 黄色成人在线观看 | 成人avav| 麻豆av一区二区三区在线观看 | 亚洲精品系列 | 91精品1区 | 天天综合视频在线观看 | 粉嫩一二三区 | 日韩女同av| 五月婷激情 | 91九色性视频 | 久久久久久久久福利 | 日韩精品一区不卡 | 亚洲va综合va国产va中文 | 热久久国产 | 国产精品久久网站 | 久久成人亚洲欧美电影 | 日韩在线免费看 | 欧美日韩一区二区久久 | 99欧美| 麻豆影视网站 | 最新的av网站 | 欧美激情片在线观看 | 亚洲三级网站 | 日韩在线播放av | 日韩二区精品 | 成人国产精品 | 日韩免费久久 | 国产一区福利在线 | 欧美另类视频 | 日本精品视频一区二区 | 国产最新视频在线观看 | 波多野结衣电影一区二区 | 天天操天天曰 | 亚洲午夜精品久久久 | 欧美一区二区伦理片 | 91福利国产在线观看 | 一区二区三区在线免费观看 | 国产做a爱一级久久 | 欧美久久精品 | 欧美日韩免费视频 | 亚洲精区二区三区四区麻豆 | 久久久精品二区 | 激情综合网天天干 | 久久天天躁夜夜躁狠狠躁2022 | 亚洲最新av网站 | 久久久久久欧美二区电影网 | 久草成人在线 | 日韩精品中文字幕一区二区 | 成人免费xyz网站 | 精品9999| 91最新在线| 日韩欧美国产精品 | 精品一区三区 | 国产精品av一区二区 | 午夜av日韩| 免费久久视频 | 亚洲一级电影 | 色婷婷免费视频 | 日韩欧美国产免费播放 | 国产1级视频 | 欧美成年人在线观看 | 亚洲老妇xxxxxx | 免费av福利 | 人人射人人爽 | av不卡在线看| 操操综合 | 日韩电影中文 | 国产第一页福利影院 | 久操视频在线免费看 | 一级黄色在线视频 | 国产一区在线免费观看视频 | 超碰久热| www夜夜操com| 亚洲精品午夜久久久久久久久久久 | 免费在线播放av电影 | 久久不见久久见免费影院 | 国产精品一区在线观看你懂的 | 日操操 | 热久久免费视频精品 | 日韩欧美高清在线观看 | 91免费在线看片 | 日本精品久久久久中文字幕5 | 黄a在线观看 | 婷婷丁香狠狠爱 | 色婷婷国产精品一区在线观看 | 日本不卡一区二区三区在线观看 | 午夜精品99久久免费 | 天堂av色婷婷一区二区三区 | 久久久国产精品网站 | 国产精品午夜免费福利视频 | 亚洲精品裸体 | 在线91观看 | 91秒拍国产福利一区 | 天天色综合三 | 国产中文字幕视频在线观看 | 国产中文字幕免费 | 九九精品在线观看 | 国产在线精品一区二区三区 | 韩日av一区二区 | 日韩在线观看视频在线 | 欧美在线视频一区二区 | 国产一区二区在线播放视频 | 综合色在线 | www.国产在线观看 | 色视频国产直接看 | 欧美另类成人 | 久久99精品久久久久久 | 在线精品亚洲 | 色橹橹欧美在线观看视频高清 | 精品久久久久免费极品大片 | 久久久久久久久久毛片 | 国产高清视频在线播放一区 | 波多野结衣在线视频免费观看 | 欧美日韩一区二区在线 | 久久人91精品久久久久久不卡 | 国产成人精品免费在线观看 | 天天操人 | 丁香六月在线 | 91成人小视频 | 麻豆91小视频 | 久久免费看 | 亚a在线 | 中文字幕在线观看亚洲 | 成人在线视频你懂的 | 久久综合九色综合97_ 久久久 | 九九激情视频 | 草久久久久久久 | av大全在线播放 | 国产毛片久久 | 九九免费在线观看视频 | 国产午夜精品理论片在线 | 色综合中文字幕 | 国产做aⅴ在线视频播放 | 久久视频精品在线观看 | 国产色在线观看 | 毛片在线网 | 精品不卡av | 黄色h在线观看 | 天堂在线免费视频 | 五月激情天 | 麻豆视频免费在线 | 超碰在线人人艹 | 精品国产精品久久一区免费式 | 81国产精品久久久久久久久久 | 日韩有码网站 | 九色91视频| 91亚·色| 69视频在线播放 | 丁香花在线视频观看免费 | 欧美一级久久久 | 免费观看的av网站 | 亚洲天堂网在线视频 | 亚洲专区一二三 | 99久久精品电影 | 国产精品国产三级国产不产一地 | 欧美激情视频在线观看免费 | 中文国产字幕 | 日本视频不卡 | 久久理论影院 | 精品福利网 | 中文字幕资源网在线观看 | 日韩高清激情 | 中文字幕高清有码 | 国产成人一区二区啪在线观看 | 亚洲国产精品久久久久婷婷884 | 91九色在线 | 日本久久综合视频 | 欧美午夜剧场 | 欧美极品久久 | av线上看| av官网在线 | 成年人在线看片 | 亚洲国产福利视频 | 西西444www大胆高清图片 | 九九热免费视频在线观看 | 在线观看黄色免费视频 | 在线三级播放 | 91久久精品一区二区三区 | 97精品国产一二三产区 | 97免费视频在线播放 | 91片黄在线观看 | 久久99精品国产麻豆婷婷 | 亚洲日韩欧美视频 | 久久草视频 | 国产免码va在线观看免费 | 亚洲综合视频在线 | 婷婷五月情 | 91成人蝌蚪 | 亚洲激情中文 | 国产一区二区三区高清播放 | 国产一级久久 | 久久久精选 | 高清av影院 | 五月婷婷中文字幕 | 久久国产成人午夜av影院宅 | 成年免费在线视频 | 日韩高清www | 在线影院中文字幕 | 日韩欧美高清不卡 | 91.dizhi永久地址最新 | 欧美一级片在线播放 | 国产精品午夜在线观看 | 中文字幕在线人 | 韩国三级在线一区 | 97在线精品视频 | 日本中文乱码卡一卡二新区 | 亚洲精区二区三区四区麻豆 | 精品国内| 中文字幕字幕中文 | 日韩在线 一区二区 | 国内免费久久久久久久久久久 | 深夜视频久久 | 午夜av激情 | 久久免费视频这里只有精品 | 中文字幕一区二区三区久久蜜桃 | 色.www| 久久99视频免费观看 | 福利视频一区二区 | 中文字幕在线观看亚洲 | 在线观看免费一区 | 人人爽夜夜爽 | 久久91久久久久麻豆精品 | a级片在线播放 | 综合av在线 | 国产手机视频在线观看 | 欧美欧美| 韩日成人av | 国产精品久久久久久久久久不蜜月 | 久久久久久久亚洲精品 | 日本字幕网| 亚洲激情在线观看 | 亚洲综合五月 | 日日夜日日干 | 久久情爱 | 91少妇精拍在线播放 | 人人插人人舔 | 色婷在线 | 亚洲精品自在在线观看 | 国产理论一区二区三区 | 久久97久久97精品免视看 | 中文字幕一区二 | se视频网址 | 91在线在线观看 | 国产精品久久久久影院日本 | 一级免费看视频 | 久久久精品在线观看 | 99久久精品久久久久久清纯 | 黄色小视频在线观看免费 | 久久免费播放视频 | 日韩欧美一区二区在线播放 | 久久国产影视 | 黄色小网站免费看 | 黄色小说在线观看视频 | 中文字幕在线观看播放 | 亚洲一区二区高潮无套美女 | 午夜精品久久久久久久久久久 | www.黄色片网站 | 伊人色**天天综合婷婷 | 日韩一区视频在线 | 欧美 日韩 国产 中文字幕 | 人交video另类hd | 日韩精品视频免费 | 欧美国产日韩一区 | 激情综合色综合久久综合 | 国产精品九九九 | 日韩亚洲在线视频 | 欧美一级日韩三级 | 不卡的一区二区三区 | 九九九免费视频 | 国产真实精品久久二三区 | 91最新国产 | 国产成人精品久久亚洲高清不卡 | 午夜久久电影网 | 国产精品人成电影在线观看 | 国产精品久久久久久久久久久久午 | 亚洲天堂免费视频 | 久草爱| 一区二区三区污 | 久久精品婷婷 | 国产精品久久久久三级 | 日韩| 欧美日本高清视频 | 天天爽夜夜爽人人爽一区二区 | 四虎成人精品永久免费av | 国产免费人人看 | 一级片黄色片网站 | 91在线最新 | 久久不卡日韩美女 | 香蕉日日 | 网站在线观看你们懂的 | 色偷偷88888欧美精品久久 | 超碰国产在线 | 亚洲成人av一区 | 欧美成人精品xxx | 久久久久网站 | 欧美成年网站 | 日日夜夜狠狠 | 中国一 片免费观看 | 91免费网站在线观看 | 亚洲专区在线播放 | 狠狠躁夜夜a产精品视频 | 中文字幕 婷婷 | 人人澡超碰碰 | 色综合在 | 91精品国产乱码久久 | 成人黄色av网站 | 97在线观看视频 | 日本高清dvd | 在线影院 国内精品 | 天天色天天爱天天射综合 | 在线国产视频 | 国产不卡av在线播放 | 亚洲综合成人婷婷小说 | 亚洲精品动漫久久久久 | 天堂在线一区 | 国产拍揄自揄精品视频麻豆 | 国产成人三级在线观看 | 色噜噜日韩精品一区二区三区视频 | 国产精品高清在线观看 | 免费特级黄毛片 | 国产成人三级三级三级97 | 综合色在线观看 | 免费日韩 精品中文字幕视频在线 | 国产日韩欧美在线观看 | av久久在线 | 美女网站久久 | 播五月综合 | 免费欧美精品 | 波多野结衣小视频 | 丝袜精品视频 | 国产资源精品在线观看 | a久久免费视频 | 欧美性爽爽 | 97天堂| 免费在线播放视频 | 国产高清一级 | 六月婷婷色 | 日韩三级在线观看 | 成人avav| 国产精品自产拍在线观看中文 | 午夜精品视频一区 | www五月婷婷 | 99久久国产免费免费 | 久精品视频在线 | 美女视频黄在线观看 | 亚洲视频第一页 | 午夜色大片在线观看 | 欧美日韩精品影院 | 91在线日韩| 国产精品一区二区免费视频 | 午夜久久久影院 | 91福利国产在线观看 | 久久精国产 | 欧美日韩国语 | 91热这里只有精品 | 免费不卡中文字幕视频 | 国产麻豆精品免费视频 | 日韩激情片在线观看 | 99精品国自产在线 | 久久免费视频这里只有精品 | 超黄视频网站 | 成人黄色大片网站 | 免费精品在线观看 | 国内成人精品2018免费看 | 中文字幕丝袜 | 国产美女黄网站免费 | 亚洲国产精品传媒在线观看 | 久久精品一区二 | 黄网站色欧美视频 | 欧美性超爽| 色网站中文字幕 | 在线观看深夜福利 | 天天在线操 | 日本在线成人 | 永久免费视频国产 | 97在线视频观看 | 亚洲精品国产精品国自 | 右手影院亚洲欧美 | 成人va视频 | 美女视频黄免费的 | 久久精品79国产精品 | 色综合久久久久 | 国产不卡一区二区视频 | 日韩视频中文 | 免费电影一区二区三区 | 久久99亚洲网美利坚合众国 | 国产在线2020 | 爱爱一区 | 看全黄大色黄大片 | 成人在线一区二区三区 | 狠狠狠色丁香婷婷综合久久五月 | 国产无套精品久久久久久 | а天堂中文最新一区二区三区 | 在线国产福利 | 久久欧美精品 | 国产一区二区不卡在线 | 午夜在线免费观看 | 日韩av中文在线观看 | 亚洲另类久久 | 久久99精品国产麻豆婷婷 | 久久9999久久免费精品国产 | 日韩视频在线不卡 | 在线观看成人小视频 | 99视频偷窥在线精品国自产拍 | 国产精品 日韩 欧美 | 在线黄频| 久久久久久综合网天天 | 中文字幕日韩伦理 | 婷婷激情久久 | 丁香六月久久综合狠狠色 | 国产福利精品在线观看 | 日日夜夜天天久久 | 国产五码一区 | 国产高清免费视频 | 色五月色开心色婷婷色丁香 | 成人毛片一区 | 精品国产理论片 | 久久久久久久国产精品视频 | 亚洲精品在线视频播放 | 美女黄久久 | 在线观看国产一区二区 | 日本天天操 | 国产精品一区二区三区在线看 | 国产精品一区二区麻豆 | 成人亚洲网 | 国产一区黄色 | www黄色软件 | 欧美在线一级片 | 亚洲91网站 | 免费亚洲视频 | 午夜视频在线观看一区二区三区 | 天天操天天是 | 国产大陆亚洲精品国产 | 国产小视频免费在线观看 | 黄色小说18 | 成人精品一区二区三区中文字幕 | 在线视频观看国产 | 99电影456麻豆| 久久久鲁| 久久麻豆精品 | 中文字幕日韩国产 | www.com黄 | 91最新视频| 国产精品国内免费一区二区三区 | 国产精品高清在线 | 毛片黄色一级 | 亚洲欧美视频在线观看 | 欧美一区二区三区在线视频观看 | 在线观看视频黄 | 蜜臀av夜夜澡人人爽人人桃色 | 91激情视频在线观看 | 亚洲精品福利视频 | 欧美在线视频精品 | 中文区中文字幕免费看 | 国产不卡在线观看 | 欧美激情第八页 | 玖玖玖影院 | 在线观看视频国产一区 | 婷婷激情av | www操操操| 亚洲精品国产精品久久99热 | 天天干一干 | 国产录像在线观看 | 丝袜美腿在线 | 中文字幕一区在线 | 在线观看黄网站 | 91人人射| 狠狠色丁香婷婷综合 | 美女免费视频一区二区 | 黄色三级免费 | 中文字幕视频网 | 永久av免费在线观看 | 亚洲精品中文字幕在线 | 一区三区视频在线观看 | 日韩欧美一区二区三区在线 | 激情婷婷亚洲 | 蜜臀av性久久久久蜜臀av | 国产一区自拍视频 | 丝袜美腿在线视频 | 手机成人免费视频 | 在线视频一区二区 | 日韩va亚洲va欧美va久久 | 亚州精品天堂中文字幕 | 国产人成看黄久久久久久久久 | 青青河边草手机免费 | 免费国产一区二区视频 | 国产精品毛片一区视频播不卡 | 伊人久久五月天 | 在线成人看片 | 在线播放 日韩专区 | www.超碰97.com | 色婷婷免费视频 | 久久久久久久久福利 | 91看片淫黄大片在线播放 | 欧美最猛性xxxx | 免费看的黄网站软件 | 久久午夜网| 久久久精品亚洲 | 黄色免费观看视频 | 国产一区二区三区视频在线 | 成人av直播| 天堂资源在线观看视频 | 欧美先锋影音 | 国产精品久久久久三级 | 精品久久一区二区三区 | 国产电影一区二区三区四区 | 99久久精品免费一区 | 麻豆超碰 | 久久国产网站 | 欧美少妇xxx | 亚洲精品国产精品乱码在线观看 | 一区二区欧美在线观看 | 一级国产视频 | 久久久久亚洲精品中文字幕 | 在线免费观看视频a | 91最新视频在线观看 | 天天草天天色 | 亚洲91视频 | 99久久er热在这里只有精品15 | 日本中文在线播放 | 久久久色 | 视频在线观看入口黄最新永久免费国产 | 国产小视频网站 | 一区二区三区电影在线播 | 亚洲波多野结衣 | 激情综合五月天 | 99久久婷婷国产综合精品 | 亚洲成人黄色av | 中文字幕在线影院 | av在线免费播放 | 欧美日韩三级 | 91九色在线播放 | 欧美久久久一区二区三区 | 午夜免费久久看 | 天天爽夜夜爽人人爽一区二区 | 久久影视一区二区 | 99高清视频有精品视频 | 在线免费观看国产黄色 | 欧美精品三级 | 五月激情五月激情 | 麻豆视频在线播放 | 天天操天天操天天操天天 | 午夜av免费观看 | 午夜av电影院 | 九九电影在线 | 久久天天拍 | 日韩精品专区在线影院重磅 | 91高清在线看| 欧美日韩三级在线观看 | 免费看一级一片 | 青青草国产精品 | 九色视频自拍 | 成年人视频在线免费播放 | 欧美日韩亚洲在线观看 | 不卡中文字幕在线 | 国产精品一区欧美 | 97精品超碰一区二区三区 | 久久嗨 | 天天射天天爽 | 中文字幕av有码 | 91高清免费在线观看 | 日色在线视频 | 亚洲视频电影在线 | 91插插插网站 | 久久国产电影 | 在线中文字幕一区二区 | 免费观看xxxx9999片 | 黄色1级毛片 | 欧美一级视频在线观看 | 亚洲涩涩一区 | 天天操人人要 | 日韩激情中文字幕 | 国产精品系列在线播放 | 99婷婷狠狠成为人免费视频 | 欧美少妇18p | 天天se天天cao天天干 | 亚洲精品在线免费播放 | 国产精品免费观看国产网曝瓜 | 国产在线观看91 | 日日夜夜艹 | 成人手机在线视频 | 亚洲专区欧美 | 在线一区观看 | 久久国产精品一区二区三区 | 天天综合网在线 | 亚洲国产中文字幕在线视频综合 | 久久99精品热在线观看 | 国产区在线视频 | 黄色www免费 | 97在线免费视频观看 | 日日躁天天躁 | 五月婷婷影院 | 久久 在线| 91香蕉国产 | 午夜电影一区 | 亚洲三级网站 | 在线成人av | 99爱视频在线观看 | 日韩一区二区三 | 91完整版在线观看 | 欧美日韩中文字幕视频 | 国产视频二区三区 | 干av在线 | 日日夜夜精品免费视频 | 精品国产视频在线 | 国产亚洲精品精品精品 | 欧美va电影 | 爱色av.com| 国产精品a成v人在线播放 | 亚洲国产无 | 国产理论一区二区三区 | 国产一区影院 | 久久免费99精品久久久久久 | 最新av观看 | 99久久精品国产系列 | 色噜噜狠狠狠狠色综合久不 | 国产高清视频 | 精品国产乱码久久久久久久 | 在线免费成人 | 超碰在线色 | 亚洲性xxxx| 欧美一级片在线免费观看 | 久久免费国产精品 | 中文字幕日韩电影 | 国产亚洲视频在线免费观看 | 中文字幕av在线电影 | 亚洲久草在线视频 | 综合久久一本 | 精品国产1区2区3区 国产欧美精品在线观看 | 丁香婷婷久久久综合精品国产 | 国产精品久久久久久一区二区 | 人人讲下载| 日韩精品视频一二三 | 午夜在线日韩 | 久久精品一二三区白丝高潮 | 国产最新在线观看 | 欧美成人a在线 | 免费在线91| 九九九九九九精品任你躁 | 成人精品一区二区三区电影免费 | 91精品视频观看 | 亚洲精品国产综合99久久夜夜嗨 | 国产一区免费在线观看 | 婷婷综合影院 | 日日干日日操 | 欧美久久久久久久久中文字幕 | 西西www444| 国产精品久久久久久999 | 天天艹天天| 色在线国产 | 欧美日韩大片在线观看 | 999日韩| 久久免费视频5 | 中文字幕在线观看不卡 | 一区中文字幕 | 五月婷婷在线观看视频 | 日韩美女一级片 | 成人久久电影 | www国产亚洲精品久久网站 | 黄色三级网站在线观看 | 色婷婷99 | 国产精品高清一区二区三区 | 视频一区二区在线观看 | 在线看小早川怜子av | 成人一级影视 | 免费性网站 | 热久久国产精品 | 日韩精品免费一区二区在线观看 | 国产精品欧美日韩 | 夜夜操网 | 国产精品久久久久久久久大全 | 在线国产99| 亚洲人成人天堂h久久 | 久久三级毛片 | 久久精品91久久久久久再现 | 狠狠色狠狠色综合系列 | 精品国产91亚洲一区二区三区www | 97在线观看免费高清完整版在线观看 | 国产一区在线免费观看视频 | 国产精品不卡视频 | 久久高清国产视频 | 久久精品老司机 | 国产精品美女久久久久久2018 | 亚洲成aⅴ人在线观看 | 国产露脸91国语对白 | 永久免费av在线播放 | 日韩免费三区 | 色婷婷综合久色 | 色a综合 | www.av免费| 美女很黄免费网站 | 国产视频69 | 欧美污网站 | 夜夜躁狠狠燥 | 国产中文在线视频 | 久久视频一区二区 | 在线观看中文字幕dvd播放 | 超碰在线日本 | 青青河边草免费直播 | 日日夜夜操操操操 | 国产黄色大全 | 久久久久久久久久电影 | 精品视频资源站 | 中文字幕资源在线 | 午夜精品视频一区 | 999视频在线播放 | 99精品热视频| av激情五月 | 国产精品久久久久久久av电影 | 亚洲精品动漫成人3d无尽在线 | 亚洲日本韩国一区二区 | 福利电影久久 | 久久xx视频| 亚洲精品国产拍在线 | 成人中心免费视频 | 欧美一级日韩免费不卡 | 国产成人精品午夜在线播放 | 国产精品一码二码三码在线 | 国产中文字幕在线观看 | 91亚洲精品久久久 | 在线高清 | 福利片视频区 | 久久天天躁夜夜躁狠狠85麻豆 | 又黄又爽又无遮挡免费的网站 | 久久久片 | 免费看的黄色片 | 久久色在线观看 | 亚洲欧洲精品久久 | 亚洲综合视频在线播放 | 久久久婷 | 日韩欧美精品在线观看视频 | 国产成人高清 | 免费在线观看亚洲视频 | 久久亚洲欧美日韩精品专区 | 激情动态 | 久久久久久久网站 | 日韩精品免费在线观看 | 亚洲视频久久 | 免费看一级特黄a大片 | 国产精品女人久久久 | 日韩电影一区二区在线 | 日韩欧美电影在线观看 | 天天天天天天天操 | 丁香六月天 | 国产精品永久 | 国产精品一区二区在线免费观看 | 国产一级电影在线 | 一级一片免费看 | 91精品国产三级a在线观看 | 99久久一区 | 久久精品国产成人精品 | 色综合人人 | 日本爱爱免费视频 | 最近中文字幕视频完整版 | 亚洲精品久久久蜜臀下载官网 | 国产午夜精品理论片在线 | 91九色视频| 亚洲国产成人精品在线 | 美女网站一区 | 久久久久久久久久影视 | 国产精品成人久久久 | 精品一区二区三区久久久 | 久久久影院一区二区三区 | 欧美日韩色婷婷 | 黄色中文字幕 | 91看国产 | 国产亚洲综合性久久久影院 | 中文字幕在线观看视频一区二区三区 | 91av播放| 亚洲精品黄色 | 亚洲日本成人网 | 激情六月婷婷久久 | 国产精品嫩草影院99网站 | 午夜精品电影一区二区在线 | 国产成人一区二区三区电影 | 在线观看久 | 国产精品一区二区三区电影 | 精品国产成人在线影院 | 91精品视频免费看 | 国产精品一区二区62 | 婷婷色站 | 五月天com | 在线观看福利网站 | 久久综合加勒比 | 成人黄色国产 | 大荫蒂欧美视频另类xxxx | 日韩精品一区二区在线观看视频 | 国产日韩欧美在线一区 | 精品uu| 99精品一区二区三区 | 激情五月婷婷网 | www麻豆视频 | 99re视频在线观看 | 欧美久久久久久久久久久 | 综合网中文字幕 | 97超在线视频| 色综合五月| 免费看搞黄视频网站 | 99热这里有 | 日韩免费专区 | 亚洲视频 在线观看 | 日韩中文字幕国产精品 | 最近免费观看的电影完整版 | 在线视频一区观看 | 操操操影院 | 欧美性久久久 | 国产91精品一区二区麻豆亚洲 | 日日躁夜夜躁xxxxaaaa | 久操视频在线播放 | 成 人 黄 色 免费播放 | 日韩精品不卡在线观看 | 国产一线二线三线性视频 | 正在播放国产一区二区 | 欧美激情奇米色 | 久久成人免费视频 | 91专区在线观看 | 婷婷网站天天婷婷网站 | 日韩欧美一区二区三区黑寡妇 | 欧美日韩一级在线 | 在线观看aa | japanesefreesexvideo高潮 | 久久久官网| 免费黄色在线播放 | www.91国产 | 久久久精品视频成人 | 日韩免费二区 | 亚洲国产精品第一区二区 | 久久久黄色av | 97超视频在线观看 | 草久在线观看 | 久久久资源 | 亚洲电影在线看 | 亚洲三级黄 | 精品国产一区二区三区四区vr | 热re99久久精品国产99热 | 久久99精品久久久久久清纯直播 | 99视频黄| 99亚洲国产 | www.人人草 | 欧美男同视频网站 | 中文字幕久久久精品 | 深爱激情五月综合 | 99精品在线免费在线观看 | 伊人婷婷综合 | 久久国产亚洲视频 | 国产又粗又猛又爽又黄的视频先 | 亚洲精品久久久久久中文传媒 | 在线观看视频你懂的 | 久草在线免费色站 | 色欧美88888久久久久久影院 | 欧美韩国在线 | 国产精品视频久久久 | 九九精品视频在线观看 | 国产精品剧情在线亚洲 | 久久伊人精品一区二区三区 | 91视频在线播放视频 | 丁香六月天婷婷 | 国产精品嫩草69影院 | 91人人视频在线观看 | 日本精品中文字幕 | 欧美一区二区三区在线播放 | 精品一二 | 欧美片一区二区三区 | 草久视频在线观看 | 精品国产一区二区三区在线观看 | 丁香六月婷婷开心婷婷网 | 久久露脸国产精品 | 色香天天 | 日韩精品短视频 | 808电影免费观看三年 | 韩国av一区二区三区在线观看 | 18国产精品福利片久久婷 | 91精品久久香蕉国产线看观看 | 美女在线免费观看视频 | 亚洲欧美精品一区二区 | 主播av在线 | 久久久久久久久久久久久国产精品 | 91精品国产99久久久久久红楼 | 一区三区在线欧 | www.久久com | 视色网站 | 国产成人精品亚洲a | 久久久久久久久久久久亚洲 | 五月婷婷在线视频观看 | 色播五月激情综合网 | 国产成人精品一区二区三区福利 | 高清av中文在线字幕观看1 | 国产一区二区成人 | 色偷偷人人澡久久超碰69 | 日躁夜躁狠狠躁2001 | 手机在线观看国产精品 | 中文字幕一二三区 | 99久久一区| www91在线观看 | 久久综合九色综合欧美就去吻 | 91插插插网站 | 国产在线观看h | 久久久久久久久久网站 | 在线色亚洲 | 欧美午夜性生活 | 久久国产香蕉视频 | 一区在线电影 | 成人激情开心网 | 成人全视频免费观看在线看 | 国产无遮挡又黄又爽在线观看 | 久久婷婷综合激情 | 国产亚洲精品电影 | 亚洲欧美日韩一区二区三区在线观看 | 国产一级性生活 | av在线短片| 久久精品成人 | 亚洲综合黄色 | 一色屋精品视频在线观看 | 97视频在线观看网址 | 成人免费视频在线观看 | 99热在线免费观看 | 国产原创av在线 | 国产一级做a | 超碰在线人人草 | 欧美日韩性视频 | av在线播放免费 | 成人av一区二区三区 | 激情久久久久 | 免费国产在线精品 | 亚洲精品自在在线观看 | 99视频在线观看视频 | 亚洲视频在线观看 | 国产精品自产拍在线观看 | 深爱五月激情网 | 中文字幕在线第一页 | 狠狠色狠狠色合久久伊人 | 亚洲一区二区视频在线播放 |