日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪(fǎng)問(wèn) 生活随笔!

生活随笔

當(dāng)前位置: 首頁(yè) > 编程资源 > 编程问答 >内容正文

编程问答

k8s安装Prometheus

發(fā)布時(shí)間:2025/3/21 编程问答 38 豆豆
生活随笔 收集整理的這篇文章主要介紹了 k8s安装Prometheus 小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

注:必須要先搭建網(wǎng)頁(yè)管理容器;

k8s部署dashboard_kali_yao的博客-CSDN博客

1.Prometheus的概述

Prometheus是一個(gè)最初在SoundCloud上構(gòu)建的開(kāi)源監(jiān)控系統(tǒng) 。它現(xiàn)在是一個(gè)獨(dú)立的開(kāi)源項(xiàng)目,為了強(qiáng)調(diào)這一點(diǎn),并說(shuō)明項(xiàng)目的治理結(jié)構(gòu),Prometheus 于2016年加入CNCF,作為繼Kubernetes之后的第二個(gè)托管項(xiàng)目

現(xiàn)在最常見(jiàn)的k8s容器管理系統(tǒng)中,通常會(huì)搭配Prometheus進(jìn)行監(jiān)控,可以把他看成google BorgMon監(jiān)控的開(kāi)源版本

prometheus的特點(diǎn)

-自定義多維度模型

-非常高效的存儲(chǔ),平均一個(gè)采樣數(shù)據(jù)占~3.5bytes左右

-在多緯度上靈活且強(qiáng)大的查詢(xún)語(yǔ)言(PromQ)

-不依賴(lài)分布式存儲(chǔ),支持單主節(jié)點(diǎn)工作通過(guò)基于HTTP的pull方式采集時(shí)序數(shù)據(jù)可以通過(guò)push gateway進(jìn)行時(shí)序列數(shù)據(jù)推送(pushing)可以通過(guò)服務(wù)發(fā)現(xiàn)或靜態(tài)配置去或取要采集的目標(biāo)服務(wù)器多種可視化圖表及儀表盤(pán)

鏡像及資源文件

網(wǎng)址:https://github.com/coreos/kube-prometheus

下載鏡像導(dǎo)入私有倉(cāng)庫(kù)

prom/node-exporter v1.0.0 quay.io/coreos/prometheus-config-reloader v0.35.1 quay.io/coreos/prometheus-operator v0.35.1 quay.io/coreos/kube-state-metrics v1.9.2 grafana/grafana 6.4.3 jimmidyson/configmap-reload v0.3.0 quay.io/prometheus/prometheus v2.11.0 quay.io/prometheus/alertmanager v0.18.0 quay.io/coreos/k8s-prometheus-adapter-amd64 v0.5.0 quay.io/coreos/kube-rbac-proxy v0.4.1

下載資源文件

# 從官方的地址獲,這里是release-0.4分支 ~]# git clone https://github.com/prometheus-operator/kube-prometheus.git # 默認(rèn)下載下來(lái)的文件較多,建議把文件進(jìn)行歸類(lèi)處理,將相關(guān)yaml文件移動(dòng)到對(duì)應(yīng)目錄下 ~]# cd kube-prometheus/manifests ~]# mkdir -p grafana grafana-json metrics-state node-exporter prom-adapter prom-server setup # 整理如下 ~]# tree ./ ./ |-- alertmanager | ? |-- alertmanager-alertmanager.yaml | ? |-- alertmanager-secret.yaml | ? |-- alertmanager-serviceAccount.yaml | ? |-- alertmanager-serviceMonitor.yaml | ? `-- alertmanager-service.yaml |-- grafana | ? |-- grafana-dashboardDatasources.yaml | ? |-- grafana-dashboardDefinitions.yaml | ? |-- grafana-dashboardSources.yaml | ? |-- grafana-deployment.yaml | ? |-- grafana-serviceAccount.yaml | ? |-- grafana-serviceMonitor.yaml | ? `-- grafana-service.yaml |-- grafana-json | ? |-- kubernetes-for-prometheus-dashboard-cn-v20201010_rev3.json | ? `-- node-exporter-dashboard_rev1.json |-- metrics-state | ? |-- kube-state-metrics-clusterRoleBinding.yaml | ? |-- kube-state-metrics-clusterRole.yaml | ? |-- kube-state-metrics-deployment.yaml | ? |-- kube-state-metrics-roleBinding.yaml | ? |-- kube-state-metrics-role.yaml | ? |-- kube-state-metrics-serviceAccount.yaml | ? |-- kube-state-metrics-serviceMonitor.yaml | ? `-- kube-state-metrics-service.yaml |-- node-exporter | ? |-- node-exporter-clusterRoleBinding.yaml | ? |-- node-exporter-clusterRole.yaml | ? |-- node-exporter-daemonset.yaml | ? |-- node-exporter-serviceAccount.yaml | ? |-- node-exporter-serviceMonitor.yaml | ? `-- node-exporter-service.yaml |-- prom-adapter | ? |-- prometheus-adapter-apiService.yaml | ? |-- prometheus-adapter-clusterRoleAggregatedMetricsReader.yaml | ? |-- prometheus-adapter-clusterRoleBindingDelegator.yaml | ? |-- prometheus-adapter-clusterRoleBinding.yaml | ? |-- prometheus-adapter-clusterRoleServerResources.yaml | ? |-- prometheus-adapter-clusterRole.yaml | ? |-- prometheus-adapter-configMap.yaml | ? |-- prometheus-adapter-deployment.yaml | ? |-- prometheus-adapter-roleBindingAuthReader.yaml | ? |-- prometheus-adapter-serviceAccount.yaml | ? `-- prometheus-adapter-service.yaml |-- prom-server | ? |-- prometheus-clusterRoleBinding.yaml | ? |-- prometheus-clusterRole.yaml | ? |-- prometheus-operator-serviceMonitor.yaml | ? |-- prometheus-prometheus.yaml | ? |-- prometheus-roleBindingConfig.yaml | ? |-- prometheus-roleBindingSpecificNamespaces.yaml | ? |-- prometheus-roleConfig.yaml | ? |-- prometheus-roleSpecificNamespaces.yaml | ? |-- prometheus-rules.yaml | ? |-- prometheus-serviceAccount.yaml | ? |-- prometheus-serviceMonitorApiserver.yaml | ? |-- prometheus-serviceMonitorCoreDNS.yaml | ? |-- prometheus-serviceMonitorKubeControllerManager.yaml | ? |-- prometheus-serviceMonitorKubelet.yaml | ? |-- prometheus-serviceMonitorKubeScheduler.yaml | ? |-- prometheus-serviceMonitor.yaml | ? `-- prometheus-service.yaml `-- setup|-- 0namespace-namespace.yaml|-- prometheus-operator-0alertmanagerCustomResourceDefinition.yaml|-- prometheus-operator-0podmonitorCustomResourceDefinition.yaml|-- prometheus-operator-0prometheusCustomResourceDefinition.yaml|-- prometheus-operator-0prometheusruleCustomResourceDefinition.yaml|-- prometheus-operator-0servicemonitorCustomResourceDefinition.yaml|-- prometheus-operator-clusterRoleBinding.yaml|-- prometheus-operator-clusterRole.yaml|-- prometheus-operator-deployment.yaml|-- prometheus-operator-serviceAccount.yaml`-- prometheus-operator-service.yaml

架構(gòu)圖

數(shù)據(jù)庫(kù):prometheus;其他的都是數(shù)據(jù)采集插件; grafana讀取數(shù)據(jù)并制成圖表展示;Alertmanager告警插件

所有監(jiān)控流程架構(gòu)圖

?2.安裝Prometheus

?1)下載并導(dǎo)入鏡像至私有倉(cāng)庫(kù)

~]# for i in "prom/node-exporter v1.0.0 >quay.io/coreos/prometheus-config-reloader v0.35.1 >quay.io/coreos/prometheus-operator v0.35.1 >quay.io/coreos/kube-state-metrics v1.9.2 >grafana/grafana 6.4.3 >jimmidyson/configmap-reload v0.3.0 >quay.io/prometheus/prometheus v2.11.0 >quay.io/prometheus/alertmanager v0.18.0 >quay.io/coreos/k8s-prometheus-adapter-amd64 v0.5.0 >quay.io/coreos/kube-rbac-proxy v0.4.1" do docker pull $i done ]# img="prom/node-exporter v1.0.0 >quay.io/coreos/prometheus-config-reloader v0.35.1 >quay.io/coreos/prometheus-operator v0.35.1 >quay.io/coreos/kube-state-metrics v1.9.2 >grafana/grafana 6.4.3 >jimmidyson/configmap-reload v0.3.0 >quay.io/prometheus/prometheus v2.11.0 >quay.io/prometheus/alertmanager v0.18.0 >quay.io/coreos/k8s-prometheus-adapter-amd64 v0.5.0 >quay.io/coreos/kube-rbac-proxy v0.4.1" ~]# while read _f _v;do docker tag ${_f}:${_v} 172.17.0.98:5000/${_f##*/}:${_v}docker push 172.17.0.98:5000/${_f##*/}:${_v}docker rmi ${_f}:${_v} done <<<"${img}" # 測(cè)試查看 ~]# curl http://172.17.0.98:5000/v2/_catalog {"repositories":["alertmanager","configmap-reload","coredns","dashboard","etcd","flannel","grafana","k8s-prometheus-adapter-amd64","kube-apiserver","kube-controller-manager","kube-proxy","kube-rbac-proxy","kube-scheduler","kube-state-metrics","metrics-scraper","metrics-server","myos","nginx-ingress-controller","node-exporter","pause","prometheus","prometheus-config-reloader","prometheus-operator"]}

2)先安裝核心數(shù)據(jù)庫(kù)的名稱(chēng)空間

注:安裝核心數(shù)據(jù)庫(kù)之前要先安裝基礎(chǔ)環(huán)境(如名稱(chēng)空間monitoring)

什么是Prometheus Operator

Prometheus Operator的本職就是一組用戶(hù)自定義的CRD資源以及Controller的實(shí)現(xiàn),Prometheus Operator負(fù)責(zé)監(jiān)聽(tīng)這些自定義資源的變化,并且根據(jù)這些資源的定義自動(dòng)化的完成如Prometheus Server自身以及配置的自動(dòng)化管理工作。以下是Prometheus Operator的架構(gòu)圖

?

為什么用Prometheus Operator

由于Prometheus本身沒(méi)有提供管理配置的AP接口(尤其是管理監(jiān)控目標(biāo)和管理警報(bào)規(guī)則),也沒(méi)有提供好用的多實(shí)例管理手段,因此這一塊往往要自己寫(xiě)一些代碼或腳本。為了簡(jiǎn)化這類(lèi)應(yīng)用程序的管理復(fù)雜度,CoreOS率先引入了Operator的概念,并且首先推出了針對(duì)在Kubernetes下運(yùn)行和管理Etcd的Etcd Operator。并隨后推出了Prometheus Operator

prometheus-operator官方地址:https://github.com/prometheus-operator/prometheus-operator kube-prometheus官方地址:https://github.com/prometheus-operator/kube-prometheus

兩個(gè)項(xiàng)目的關(guān)系:前者只包含了Prometheus Operator,后者既包含了Operator,又包含了Prometheus相關(guān)組件的部署及常用的Prometheus自定義監(jiān)控,具體包含下面的組件

## 先創(chuàng)建基礎(chǔ)環(huán)境 # 基礎(chǔ)環(huán)境運(yùn)用的鏡像(上面有導(dǎo)入) ~]# curl http://172.17.0.98:5000/v2/configmap-reload/tags/list {"name":"configmap-reload","tags":["v0.3.0"]} ~]# curl http://172.17.0.98:5000/v2/prometheus-config-reloader/tags/list {"name":"prometheus-config-reloader","tags":["v0.35.1"]} ~]# curl http://172.17.0.98:5000/v2/prometheus-operator/tags/list # 書(shū)寫(xiě)資源文件 # 資源文件較多創(chuàng)建一個(gè)目錄存放 ~]# cd setup # 需要的文件 ~]# ls setup 0namespace-namespace.yaml prometheus-operator-0alertmanagerCustomResourceDefinition.yaml prometheus-operator-0podmonitorCustomResourceDefinition.yaml prometheus-operator-0prometheusCustomResourceDefinition.yaml prometheus-operator-0prometheusruleCustomResourceDefinition.yaml prometheus-operator-0servicemonitorCustomResourceDefinition.yaml prometheus-operator-clusterRoleBinding.yaml prometheus-operator-clusterRole.yaml prometheus-operator-deployment.yaml prometheus-operator-serviceAccount.yaml prometheus-operator-service.yaml ? # 只需要修改指定鏡像倉(cāng)庫(kù)就可以了(190,274行) ~]# vim prometheus-operator-deployment.yaml apiVersion: apps/v1 kind: Deployment metadata:labels:app.kubernetes.io/component: controllerapp.kubernetes.io/name: prometheus-operatorapp.kubernetes.io/version: v0.35.1name: prometheus-operatornamespace: monitoring spec:replicas: 1selector:matchLabels:app.kubernetes.io/component: controllerapp.kubernetes.io/name: prometheus-operatortemplate:metadata:labels:app.kubernetes.io/component: controllerapp.kubernetes.io/name: prometheus-operatorapp.kubernetes.io/version: v0.35.1spec:containers:- args:- --kubelet-service=kube-system/kubelet- --logtostderr=true- --config-reloader-image=172.17.0.98:5000/configmap-reload:v0.3.0 ?#(指定到本地參庫(kù))- --prometheus-config-reloader=172.17.0.98:5000/prometheus-config-reloader:v0.35.1 ?#(指定到本地參庫(kù))image: 172.17.0.98:5000/prometheus-operator:v0.35.1 ?#(指定到本地參庫(kù))name: prometheus-operatorports:- containerPort: 8080name: httpresources:limits:cpu: 200mmemory: 200Mirequests:cpu: 100mmemory: 100MisecurityContext:allowPrivilegeEscalation: falsenodeSelector:beta.kubernetes.io/os: linuxsecurityContext:runAsNonRoot: truerunAsUser: 65534serviceAccountName: prometheus-operator

安裝

# 安裝并查看(k8s默認(rèn)會(huì)自動(dòng)順序安裝,只要指定目錄) ~]# kubectl apply -f setup/ ~]# kubectl get namespaces NAME ? ? ? ? ? ? ? ? ? STATUS ? AGE default ? ? ? ? ? ? ? Active ? 5d14h ingress-nginx ? ? ? ? Active ? 3d17h kube-node-lease ? ? ? Active ? 5d14h kube-public ? ? ? ? ? Active ? 5d14h kube-system ? ? ? ? ? Active ? 5d14h kubernetes-dashboard ? Active ? 130m monitoring ? ? ? ? ? ? Active ? 2m49s ~]# kubectl -n monitoring get pod NAME ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? READY ? STATUS ? RESTARTS ? AGE prometheus-operator-75b4b59b74-72qhg ? 1/1 ? ? Running ? 0 ? ? ? ? 47s

3)安裝數(shù)據(jù)庫(kù)Prometheus server

#對(duì)數(shù)據(jù)的監(jiān)控的獲取,存儲(chǔ)以及查詢(xún) #Prometheus server用到的鏡像(上面有導(dǎo)入) ~]# curl http://172.17.0.98:5000/v2/prometheus/tags/list {"name":"prometheus","tags":["v2.11.0"]} ? ## 準(zhǔn)備資源文件 ~]# ls prom-server prometheus-clusterRoleBinding.yaml prometheus-clusterRole.yaml prometheus-operator-serviceMonitor.yaml prometheus-prometheus.yaml prometheus-roleBindingConfig.yaml prometheus-roleBindingSpecificNamespaces.yaml prometheus-roleConfig.yaml prometheus-roleSpecificNamespaces.yaml prometheus-rules.yaml prometheus-serviceAccount.yaml prometheus-serviceMonitorApiserver.yaml prometheus-serviceMonitorCoreDNS.yaml prometheus-serviceMonitorKubeControllerManager.yaml prometheus-serviceMonitorKubelet.yaml prometheus-serviceMonitorKubeScheduler.yaml prometheus-serviceMonitor.yaml prometheus-service.yaml # 只需要注意該文件的版本于鏡像即可(這里把鏡像的版本分開(kāi)寫(xiě)了) ~]# vim prom-server/prometheus-prometheus.yaml 14: ?baseImage: 172.17.0.98:5000/prometheus 34: ?version: v2.11.0 ~]# vim prometheus-prometheus.yaml apiVersion: monitoring.coreos.com/v1 kind: Prometheus metadata:labels:prometheus: k8sname: k8snamespace: monitoring spec:alerting:alertmanagers:- name: alertmanager-mainnamespace: monitoringport: webbaseImage: 172.17.0.98:5000/prometheus ?# 指定鏡像倉(cāng)庫(kù)nodeSelector:kubernetes.io/os: linuxpodMonitorNamespaceSelector: {}podMonitorSelector: {}replicas: 2resources:requests:memory: 400MiruleSelector:matchLabels:prometheus: k8srole: alert-rulessecurityContext:fsGroup: 2000runAsNonRoot: truerunAsUser: 1000serviceAccountName: prometheus-k8sserviceMonitorNamespaceSelector: {}serviceMonitorSelector: {}version: v2.11.0 ? ?# 指定鏡像版本 # 安裝(以目錄開(kāi)頭會(huì)自動(dòng)安裝) ~]# kubectl apply -f prom-server/ ~]# kubectl -n monitoring get pod NAME ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? READY ? STATUS ? RESTARTS ? AGE prometheus-k8s-0 ? ? ? ? ? ? ? ? ? ? ? 3/3 ? ? Running ? 1 ? ? ? ? 45s prometheus-k8s-1 ? ? ? ? ? ? ? ? ? ? ? 3/3 ? ? Running ? 1 ? ? ? ? 45s

3.安裝數(shù)據(jù)收集插件

注:以下3個(gè)插件主要收集(cpu,磁盤(pán)使用率,容器的狀態(tài)信息)

1)prom-adapter安裝

adapter

-獲取APIServer的資源指標(biāo)提供給Prom Server

adapter用到的鏡像(上面有傳)

~]# curl http://172.17.0.98:5000/v2/k8s-prometheus-adapter-amd64/tags/list {"name":"k8s-prometheus-adapter-amd64","tags":["v0.5.0"]} # 準(zhǔn)備鏡像(上面已經(jīng)上傳到私有倉(cāng)庫(kù)了) ~]# curl http://172.17.0.98:5000/v2/k8s-prometheus-adapter-amd64/tags/list {"name":"k8s-prometheus-adapter-amd64","tags":["v0.5.0"]} # 準(zhǔn)備文件 ~]# ls prom-adapter/ prometheus-adapter-apiService.yaml prometheus-adapter-clusterRoleAggregatedMetricsReader.yaml prometheus-adapter-clusterRoleBindingDelegator.yaml prometheus-adapter-clusterRoleBinding.yaml prometheus-adapter-clusterRoleServerResources.yaml prometheus-adapter-clusterRole.yaml prometheus-adapter-configMap.yaml prometheus-adapter-deployment.yaml prometheus-adapter-roleBindingAuthReader.yaml prometheus-adapter-serviceAccount.yaml prometheus-adapter-service.yaml # 只需要主要28行指定倉(cāng)庫(kù) ~]# vim prom-adapter/prometheus-adapter-deployment.yaml 28: ? ? ?image: 172.17.0.98:5000/k8s-prometheus-adapter-amd64:v0.5.0 ~]# prometheus-adapter-deployment.yaml apiVersion: apps/v1 kind: Deployment metadata:name: prometheus-adapternamespace: monitoring spec:replicas: 1selector:matchLabels:name: prometheus-adapterstrategy:rollingUpdate:maxSurge: 1maxUnavailable: 0template:metadata:labels:name: prometheus-adapterspec:containers:- args:- --cert-dir=/var/run/serving-cert- --config=/etc/adapter/config.yaml- --logtostderr=true- --metrics-relist-interval=1m- --prometheus-url=http://prometheus-k8s.monitoring.svc:9090/- --secure-port=6443image: quay.io/coreos/k8s-prometheus-adapter-amd64:v0.5.0 ? # 指定鏡像name: prometheus-adapterports:- containerPort: 6443volumeMounts:- mountPath: /tmpname: tmpfsreadOnly: false- mountPath: /var/run/serving-certname: volume-serving-certreadOnly: false- mountPath: /etc/adaptername: configreadOnly: falsenodeSelector:kubernetes.io/os: linuxserviceAccountName: prometheus-adaptervolumes:- emptyDir: {}name: tmpfs- emptyDir: {}name: volume-serving-cert- configMap:name: adapter-configname: config # 部署于查看容器 ~]# kubectl apply -f prom-adapter ~]# kubectl -n monitoring get pod NAME ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? READY ? STATUS ? RESTARTS ? AGE prometheus-adapter-856854f9f6-knqtq ? ?1/1 ? ? Running ? 0 ? ? ? ? 6s

2)metrics-state安裝

-獲取各種資源的最新?tīng)顟B(tài)(pod,deploy)

-metrics-state用到的鏡像

~]# curl http://172.17.0.98:5000/v2/kube-state-metrics/tags/list {"name":"kube-state-metrics","tags":["v1.9.2"]} ~]# curl http://172.17.0.98:5000/v2/kube-rbac-proxy/tags/list {"name":"kube-rbac-proxy","tags":["v0.4.1"]} 文件]# ls metrics-state/ kube-state-metrics-clusterRoleBinding.yaml kube-state-metrics-clusterRole.yaml kube-state-metrics-deployment.yaml kube-state-metrics-roleBinding.yaml kube-state-metrics-role.yaml kube-state-metrics-serviceAccount.yaml kube-state-metrics-serviceMonitor.yaml kube-state-metrics-service.yaml # 先查看鏡像是否上傳成功 ~]# curl http://172.17.0.98:5000/v2/kube-state-metrics/tags/list {"name":"kube-state-metrics","tags":["v1.9.2"]} ~]# curl http://172.17.0.98:5000/v2/kube-rbac-proxy/tags/list {"name":"kube-rbac-proxy","tags":["v0.4.1"]} # 只需要注意鏡像就可以了 ~]# vim metrics-state/kube-state-metrics-deployment.yaml 24: ? ? ? ?image: 172.17.0.98:5000/kube-rbac-proxy:v0.4.1 ?# 指定私有倉(cāng)庫(kù) 41: ? ? ? ?image: 172.17.0.98:5000/kube-rbac-proxy:v0.4.1 # 指定私有倉(cāng)庫(kù) 58: ? ? ? ?image: 172.17.0.98:5000/kube-state-metrics:v1.9.2 ?# 指定私有倉(cāng)庫(kù) ? ? ~]# cat metrics-state/kube-state-metrics-apiVersion: apps/v1 kind: Deployment metadata:labels:app: kube-state-metricsname: kube-state-metricsnamespace: monitoring spec:replicas: 1selector:matchLabels:app: kube-state-metricstemplate:metadata:labels:app: kube-state-metricsspec:containers:- args:- --logtostderr- --secure-listen-address=:8443- --tls-cipher-suites=TLS_ECDHE_RSA_WITH_AES_128_GCM_SHA256,TLS_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256,TLS_RSA_WITH_AES_128_CBC_SHA256,TLS_ECDHE_ECDSA_WITH_AES_128_CBC_SHA256,TLS_ECDHE_RSA_WITH_AES_128_CBC_SHA256- --upstream=http://127.0.0.1:8081/image: quay.io/coreos/kube-rbac-proxy:v0.4.1 ?# 修該鏡像name: kube-rbac-proxy-mainports:- containerPort: 8443name: https-mainresources:limits:cpu: 20mmemory: 40Mirequests:cpu: 10mmemory: 20Mi- args:- --logtostderr- --secure-listen-address=:9443- --tls-cipher-suites=TLS_ECDHE_RSA_WITH_AES_128_GCM_SHA256,TLS_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256,TLS_RSA_WITH_AES_128_CBC_SHA256,TLS_ECDHE_ECDSA_WITH_AES_128_CBC_SHA256,TLS_ECDHE_RSA_WITH_AES_128_CBC_SHA256- --upstream=http://127.0.0.1:8082/image: quay.io/coreos/kube-rbac-proxy:v0.4.1 ? # 修改鏡像倉(cāng)庫(kù)name: kube-rbac-proxy-selfports:- containerPort: 9443name: https-selfresources:limits:cpu: 20mmemory: 40Mirequests:cpu: 10mmemory: 20Mi- args:- --host=127.0.0.1- --port=8081- --telemetry-host=127.0.0.1- --telemetry-port=8082image: quay.io/coreos/kube-state-metrics:v1.9.2 ? # 指定鏡像name: kube-state-metricsresources:limits:cpu: 100mmemory: 150Mirequests:cpu: 100mmemory: 150MinodeSelector:kubernetes.io/os: linuxsecurityContext:runAsNonRoot: truerunAsUser: 65534serviceAccountName: kube-state-metrics # 創(chuàng)建資源與查看 ~]# kubectl apply -f metrics-state/ ~]# kubectl -n monitoring get pod NAME ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? READY ? STATUS ? RESTARTS ? AGE kube-state-metrics-5894f64799-krvn6 ? ?3/3 ? ? Running ? 0 ? ? ? ? 4s

3)node-exporter安裝

-采集node節(jié)點(diǎn)的數(shù)據(jù)提供給Prom Server

-node-exporter用到的鏡像

~]# curl http://172.17.0.98:5000/v2/node-exporter/tags/list {"name":"node-exporter","tags":["v1.0.0"]} ~]# curl http://172.17.0.98:5000/v2/kube-rbac-proxy/tags/list {"name":"kube-rbac-proxy","tags":["v0.4.1"]} 文件]# ls node-exporter/ node-exporter-clusterRoleBinding.yaml node-exporter-serviceAccount.yaml node-exporter-clusterRole.yaml ? ? ? ? node-exporter-serviceMonitor.yaml node-exporter-daemonset.yaml ? ? ? ? ? node-exporter-service.yaml # 鏡像準(zhǔn)備 ~]# curl http://172.17.0.98:5000/v2/node-exporter/tags/list {"name":"node-exporter","tags":["v1.0.0"]} ~]# curl http://172.17.0.98:5000/v2/kube-rbac-proxy/tags/list {"name":"kube-rbac-proxy","tags":["v0.4.1"]} # 注意修改鏡像 ~]# vim node-exporter/node-exporter-daemonset.yaml 27: ? ? ? ?image: 172.17.0.98:5000/node-exporter:v1.0.0 57: ? ? ? ?image: 172.17.0.98:5000/kube-rbac-proxy:v0.4.1 ? ~]# vim node-exporter/node-exporter- apiVersion: apps/v1 kind: DaemonSet metadata:labels:app: node-exportername: node-exporternamespace: monitoring spec:selector:matchLabels:app: node-exportertemplate:metadata:labels:app: node-exporterspec:containers:- args:- --web.listen-address=127.0.0.1:9100- --path.procfs=/host/proc- --path.sysfs=/host/sys- --path.rootfs=/host/root- --no-collector.wifi- --no-collector.hwmon- --collector.filesystem.ignored-mount-points=^/(dev|proc|sys|var/lib/docker/.+)($|/)- --collector.filesystem.ignored-fs-types=^(autofs|binfmt_misc|cgroup|configfs|debugfs|devpts|devtmpfs|fusectl|hugetlbfs|mqueue|overlay|proc|procfs|pstore|rpc_pipefs|securityfs|sysfs|tracefs)$image: quay.io/prometheus/node-exporter:v1.0.0 ?# 指定鏡像name: node-exporterresources:limits:cpu: 250mmemory: 180Mirequests:cpu: 102mmemory: 180MivolumeMounts:- mountPath: /host/procname: procreadOnly: false- mountPath: /host/sysname: sysreadOnly: false- mountPath: /host/rootmountPropagation: HostToContainername: rootreadOnly: true- args:- --logtostderr- --secure-listen-address=[$(IP)]:9100- --tls-cipher-suites=TLS_ECDHE_RSA_WITH_AES_128_GCM_SHA256,TLS_ECDHE_ECDSA_WITH_AES_128_GCM_SHA256,TLS_RSA_WITH_AES_128_CBC_SHA256,TLS_ECDHE_ECDSA_WITH_AES_128_CBC_SHA256,TLS_ECDHE_RSA_WITH_AES_128_CBC_SHA256- --upstream=http://127.0.0.1:9100/env:- name: IPvalueFrom:fieldRef:fieldPath: status.podIPimage: quay.io/coreos/kube-rbac-proxy:v0.4.1 ? # 指定鏡像name: kube-rbac-proxyports:- containerPort: 9100hostPort: 9100name: httpsresources:limits:cpu: 20mmemory: 40Mirequests:cpu: 10mmemory: 20MihostNetwork: truehostPID: truenodeSelector:kubernetes.io/os: linuxsecurityContext:runAsNonRoot: truerunAsUser: 65534serviceAccountName: node-exportertolerations:- operator: Existsvolumes:- hostPath:path: /procname: proc- hostPath:path: /sysname: sys- hostPath:path: /name: root # 添加與查看 ~]# kubectl apply -f node-exporter/ ~]# kubectl -n monitoring get pod NAME ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? READY ? STATUS ? RESTARTS ? AGE node-exporter-7h4l9 ? ? ? ? ? ? ? ? ? ?2/2 ? ? Running ? 0 ? ? ? ? 7s node-exporter-7vxmx ? ? ? ? ? ? ? ? ? ?2/2 ? ? Running ? 0 ? ? ? ? 7s node-exporter-mr6lw ? ? ? ? ? ? ? ? ? ?2/2 ? ? Running ? 0 ? ? ? ? 7s node-exporter-zg2j8 ? ? ? ? ? ? ? ? ? ?2/2 ? ? Running ? 0 ? ? ? ? 7s

4.安裝告警插件

1)alertmanager安裝

-Prometheus體系中的告警處理中心

-alertmanager用到的鏡像

~]# curl http://172.17.0.98:5000/v2/alertmanager/tags/list {"name":"alertmanager","tags":["v0.18.0"]} 文件~]# ls alertmanager/ alertmanager-alertmanager.yaml ? alertmanager-serviceMonitor.yaml alertmanager-secret.yaml ? ? ? ? alertmanager-service.yaml alertmanager-serviceAccount.yaml # 查看鏡像 ~]# curl http://172.17.0.98:5000/v2/alertmanager/tags/list {"name":"alertmanager","tags":["v0.18.0"]} # 只需要修改指定鏡像 ~]# vim alertmanager/alertmanager-alertmanager.yaml 09: baseImage: 172.17.0.98:5000/alertmanager 18: version: v0.18.0 ? ~]# vim alertmanager-alertmanager.yaml apiVersion: monitoring.coreos.com/v1 kind: Alertmanager metadata:labels:alertmanager: mainname: mainnamespace: monitoring spec:baseImage: quay.io/prometheus/alertmanagernodeSelector:kubernetes.io/os: linuxreplicas: 3securityContext:fsGroup: 2000runAsNonRoot: truerunAsUser: 1000serviceAccountName: alertmanager-mainversion: v0.18.0 # 創(chuàng)建資源與查看 ~]# kubectl apply -f alertmanager/ ~]# kubectl -n monitoring get pod NAME ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? READY ? STATUS ? RESTARTS ? AGE alertmanager-main-0 ? ? ? ? ? ? ? ? ? ?2/2 ? ? Running ? 0 ? ? ? ? 16s alertmanager-main-1 ? ? ? ? ? ? ? ? ? ?2/2 ? ? Running ? 0 ? ? ? ? 16s alertmanager-main-2 ? ? ? ? ? ? ? ? ? ?2/2 ? ? Running ? 0 ? ? ? ? 16s

5.按裝展示插件

grafana安裝

-支持多種圖形和Dashboard的展示

-grafana用到的鏡像

~]# curl http://172.17.0.98:5000/v2/grafana/tags/list {"name":"grafana","tags":["6.4.3"]} ? ? 文件~]# ls grafana grafana-dashboardDatasources.yaml grafana-serviceAccount.yaml grafana-dashboardDefinitions.yaml grafana-serviceMonitor.yaml grafana-dashboardSources.yaml ? ? grafana-service.yaml grafana-deployment.yaml # 查看鏡像 ~]# curl http://172.17.0.98:5000/v2/grafana/tags/list {"name":"grafana","tags":["6.4.3"]} # 只需要修改鏡像 ~]# vim grafana/grafana-deployment.yaml 19: ? ? - image: 172.17.0.98:5000/grafana:6.4.3 ~]# vim grafana/grafana-deployment.yaml apiVersion: apps/v1 kind: Deployment metadata:labels:app: grafananame: grafananamespace: monitoring spec:replicas: 1selector:matchLabels:app: grafanatemplate:metadata:labels:app: grafanaspec:containers:- image: grafana/grafana:6.4.3 ? # 指定鏡像name: grafanaports:- containerPort: 3000name: httpreadinessProbe:httpGet:path: /api/healthport: httpresources:limits:cpu: 200mmemory: 200Mirequests:cpu: 100mmemory: 100MivolumeMounts:- mountPath: /var/lib/grafananame: grafana-storagereadOnly: false- mountPath: /etc/grafana/provisioning/datasourcesname: grafana-datasourcesreadOnly: false- mountPath: /etc/grafana/provisioning/dashboardsname: grafana-dashboardsreadOnly: false- mountPath: /grafana-dashboard-definitions/0/apiservername: grafana-dashboard-apiserverreadOnly: false- mountPath: /grafana-dashboard-definitions/0/cluster-totalname: grafana-dashboard-cluster-totalreadOnly: false- mountPath: /grafana-dashboard-definitions/0/controller-managername: grafana-dashboard-controller-managerreadOnly: false- mountPath: /grafana-dashboard-definitions/0/k8s-resources-clustername: grafana-dashboard-k8s-resources-clusterreadOnly: false- mountPath: /grafana-dashboard-definitions/0/k8s-resources-namespacename: grafana-dashboard-k8s-resources-namespacereadOnly: false- mountPath: /grafana-dashboard-definitions/0/k8s-resources-nodename: grafana-dashboard-k8s-resources-nodereadOnly: false- mountPath: /grafana-dashboard-definitions/0/k8s-resources-podname: grafana-dashboard-k8s-resources-podreadOnly: false- mountPath: /grafana-dashboard-definitions/0/k8s-resources-workloadname: grafana-dashboard-k8s-resources-workloadreadOnly: false- mountPath: /grafana-dashboard-definitions/0/k8s-resources-workloads-namespacename: grafana-dashboard-k8s-resources-workloads-namespacereadOnly: false- mountPath: /grafana-dashboard-definitions/0/kubeletname: grafana-dashboard-kubeletreadOnly: false- mountPath: /grafana-dashboard-definitions/0/namespace-by-podname: grafana-dashboard-namespace-by-podreadOnly: false- mountPath: /grafana-dashboard-definitions/0/namespace-by-workloadname: grafana-dashboard-namespace-by-workloadreadOnly: false- mountPath: /grafana-dashboard-definitions/0/node-cluster-rsrc-usename: grafana-dashboard-node-cluster-rsrc-usereadOnly: false- mountPath: /grafana-dashboard-definitions/0/node-rsrc-usename: grafana-dashboard-node-rsrc-usereadOnly: false- mountPath: /grafana-dashboard-definitions/0/nodesname: grafana-dashboard-nodesreadOnly: false- mountPath: /grafana-dashboard-definitions/0/persistentvolumesusagename: grafana-dashboard-persistentvolumesusagereadOnly: false- mountPath: /grafana-dashboard-definitions/0/pod-totalname: grafana-dashboard-pod-totalreadOnly: false- mountPath: /grafana-dashboard-definitions/0/podsname: grafana-dashboard-podsreadOnly: false- mountPath: /grafana-dashboard-definitions/0/prometheus-remote-writename: grafana-dashboard-prometheus-remote-writereadOnly: false- mountPath: /grafana-dashboard-definitions/0/prometheusname: grafana-dashboard-prometheusreadOnly: false- mountPath: /grafana-dashboard-definitions/0/proxyname: grafana-dashboard-proxyreadOnly: false- mountPath: /grafana-dashboard-definitions/0/schedulername: grafana-dashboard-schedulerreadOnly: false- mountPath: /grafana-dashboard-definitions/0/statefulsetname: grafana-dashboard-statefulsetreadOnly: false- mountPath: /grafana-dashboard-definitions/0/workload-totalname: grafana-dashboard-workload-totalreadOnly: falsenodeSelector:beta.kubernetes.io/os: linuxsecurityContext:runAsNonRoot: truerunAsUser: 65534serviceAccountName: grafanavolumes:- emptyDir: {}name: grafana-storage- name: grafana-datasourcessecret:secretName: grafana-datasources- configMap:name: grafana-dashboardsname: grafana-dashboards- configMap:name: grafana-dashboard-apiservername: grafana-dashboard-apiserver- configMap:name: grafana-dashboard-cluster-totalname: grafana-dashboard-cluster-total- configMap:name: grafana-dashboard-controller-managername: grafana-dashboard-controller-manager- configMap:name: grafana-dashboard-k8s-resources-clustername: grafana-dashboard-k8s-resources-cluster- configMap:name: grafana-dashboard-k8s-resources-namespacename: grafana-dashboard-k8s-resources-namespace- configMap:name: grafana-dashboard-k8s-resources-nodename: grafana-dashboard-k8s-resources-node- configMap:name: grafana-dashboard-k8s-resources-podname: grafana-dashboard-k8s-resources-pod- configMap:name: grafana-dashboard-k8s-resources-workloadname: grafana-dashboard-k8s-resources-workload- configMap:name: grafana-dashboard-k8s-resources-workloads-namespacename: grafana-dashboard-k8s-resources-workloads-namespace- configMap:name: grafana-dashboard-kubeletname: grafana-dashboard-kubelet- configMap:name: grafana-dashboard-namespace-by-podname: grafana-dashboard-namespace-by-pod- configMap:name: grafana-dashboard-namespace-by-workloadname: grafana-dashboard-namespace-by-workload- configMap:name: grafana-dashboard-node-cluster-rsrc-usename: grafana-dashboard-node-cluster-rsrc-use- configMap:name: grafana-dashboard-node-rsrc-usename: grafana-dashboard-node-rsrc-use- configMap:name: grafana-dashboard-nodesname: grafana-dashboard-nodes- configMap:name: grafana-dashboard-persistentvolumesusagename: grafana-dashboard-persistentvolumesusage- configMap:name: grafana-dashboard-pod-totalname: grafana-dashboard-pod-total- configMap:name: grafana-dashboard-podsname: grafana-dashboard-pods- configMap:name: grafana-dashboard-prometheus-remote-writename: grafana-dashboard-prometheus-remote-write- configMap:name: grafana-dashboard-prometheusname: grafana-dashboard-prometheus- configMap:name: grafana-dashboard-proxyname: grafana-dashboard-proxy- configMap:name: grafana-dashboard-schedulername: grafana-dashboard-scheduler- configMap:name: grafana-dashboard-statefulsetname: grafana-dashboard-statefulset- configMap:name: grafana-dashboard-workload-totalname: grafana-dashboard-workload-total # 安裝與查看 ~]# kubectl apply -f grafana/ ~]# kubectl -n monitoring get pod NAME ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? READY ? STATUS ? RESTARTS ? AGE grafana-647d948b69-d2hv9 ? ? ? ? ? ? ? 1/1 ? ? Running ? 0 ? ? ? ? 19s

6.發(fā)布服務(wù)

grafana默認(rèn)的服務(wù)使用Cluster IP

-使用nodePort發(fā)布服務(wù)

# 使用etid在線(xiàn)直接改 ~]# kubctl etid svc grafana -o yaml ? # 直接修改資源文件然后更新 ~]# cp grafana/grafana-service.yaml ./ ~]# vim grafana-service.yaml apiVersion: v1 kind: Service metadata:labels:app: grafananame: grafananamespace: monitoring spec:type: NodePort ? ? ? ? ?# 新添加NodePortports:- name: httpport: 3000nodePort: 30000 ? ? ? # 新添加映射端口targetPort: httpselector:app: grafana ~]# kubectl apply -f grafana-service.yaml ~]# kubectl -n monitoring get serviceNAME ? ? ? ? ? ? ? ? ? TYPE ? ? ? CLUSTER-IP ? ? ? EXTERNAL-IP ? PORT(S)grafana ? ? ? ? ? ? ? ? NodePort ? ?10.254.79.49 ? ? <none> ? ? ? ?3000:30000/TCP # 服務(wù)發(fā)布以后可以通過(guò)云彈性公網(wǎng)IP直接訪(fǎng)問(wèn)即可

grafana 第一次默認(rèn)登錄的用戶(hù)名/密碼(admin/admin),登錄之后會(huì)強(qiáng)制修改密碼

7.圖形操作

1)綁定數(shù)據(jù)庫(kù)

# 先查看數(shù)據(jù)庫(kù)服務(wù),因?yàn)槿绻胮od的話(huà)只要重啟就會(huì)找不到 ~]# kubectl get service -n monitoring ....... prometheus-k8s ClusterIP 10.254.192.100 <none> ? ?9090/TCP 3h4m ~]# curl http://prometheus-k8s:9090

2) 收集傳輸數(shù)據(jù)地址

名字隨意(這里是prometheus),但是后續(xù)的圖表導(dǎo)入要填寫(xiě)這個(gè)

URL填寫(xiě)內(nèi)部DNS名稱(chēng)如上(kubectl get service -n monitoring)

端口默認(rèn):9090

注:這里必須填寫(xiě)該服務(wù)域名

?

?prometheus的內(nèi)部訪(fǎng)問(wèn)是順序

用戶(hù)訪(fǎng)問(wèn)開(kāi)放端口30000,然后映射到內(nèi)部grafana的3000;grafana容器再問(wèn)prometheus(在容器內(nèi)部就可以用域名訪(fǎng)問(wèn)了)

?默認(rèn)有展示頁(yè)面

3)導(dǎo)入下載好的頁(yè)面展示圖

官網(wǎng)下載地址:儀表板|格拉法納實(shí)驗(yàn)室 (grafana.com)

注:導(dǎo)入的文件就是如下任意一個(gè)

~]# ls grafana-json kubernetes-for-prometheus-dashboard-cn-v20201010_rev3.json node-exporter-dashboard_rev1.json

點(diǎn)擊這個(gè)位置,輸入模板ID

導(dǎo)入文件,數(shù)據(jù)源就是剛剛定義的prometheus1

?4)調(diào)整展示時(shí)間范圍

默認(rèn)十二小時(shí)(調(diào)成1小時(shí))

總結(jié)

以上是生活随笔為你收集整理的k8s安装Prometheus的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。

日韩在线视频播放 | 五月婷婷激情综合 | 婷婷视频在线播放 | 色香蕉在线 | 免费色视频在线 | 又黄又爽免费视频 | 日韩亚洲国产中文字幕 | 在线视频手机国产 | 狠狠综合 | 激情欧美网 | 欧美综合在线观看 | 国产成视频在线观看 | av中文在线| 日韩激情免费视频 | 亚洲国产欧美在线人成大黄瓜 | 久久视频免费观看 | 狠狠干网 | 久草久草在线观看 | 欧美久久久久久久久久久久 | 涩涩网站在线观看 | 69国产成人综合久久精品欧美 | 亚州精品视频 | 99久久夜色精品国产亚洲96 | 精品视频9999| 日韩在线视频国产 | 不卡的av片 | 亚洲精区二区三区四区麻豆 | 欧美午夜激情网 | 欧美影院久久 | 色婷婷88av视频一二三区 | 欧美一区,二区 | 国产剧情一区 | 国产亚洲精品中文字幕 | 亚洲激情五月 | 看片网站黄色 | 国产区久久 | 欧美福利久久 | 色婷婷播放 | 99riav1国产精品视频 | www.五月婷婷.com | 综合天堂av久久久久久久 | 日韩高清精品一区二区 | 国产高清精品在线观看 | 日韩www在线| 国产一级二级在线观看 | 免费看的国产视频网站 | 香蕉视频国产在线观看 | 天堂入口网站 | 狠狠色丁香久久婷婷综 | 日韩精品一区二 | 日韩视频一区二区三区 | 伊色综合久久之综合久久 | 亚洲欧美日韩国产一区二区 | 欧美一级看片 | 久久免费精品国产 | 国产一区二区在线精品 | 婷婷色在线观看 | avwww在线 | 精品久久久久久久久久岛国gif | 麻豆视频免费播放 | 免费男女羞羞的视频网站中文字幕 | 欧美成人91| 亚洲国产成人av网 | 4438全国亚洲精品在线观看视频 | 天天干 天天摸 天天操 | 日韩欧美视频免费看 | 国产中文字幕在线看 | 精品国偷自产国产一区 | 久久在线视频在线 | 精品久久1| 国产一区二区三区免费观看视频 | 在线观看岛国av | 色综合亚洲精品激情狠狠 | 狠狠插狠狠操 | 国产乱视频 | 91精品在线免费观看 | 毛片3| 日韩电影在线看 | 久久成视频 | 国内精品福利视频 | 欧美激情xxxx性bbbb | av在线播放观看 | 国产精品视频免费在线观看 | 在线国产欧美 | 久草在线观看视频免费 | 免费日韩一区 | 人人添人人澡人人澡人人人爽 | av免费观看网址 | 91观看视频| 成人黄在线 | 夜夜骑天天操 | av福利第一导航 | 九九久久精品视频 | 国产精品久久久久久一区二区 | 成 人 黄 色 片 在线播放 | 亚洲欧美成人在线 | 久久不射网站 | 日韩免费视频在线观看 | 久久久久免费精品国产 | 国产精品一区二区精品视频免费看 | 中文字幕日韩国产 | 国产成人av| 婷婷丁香激情综合 | 91精品视频在线 | 国内视频一区二区 | 干干干操操操 | 欧美一级免费高清 | 激情久久五月 | 久久桃花网 | 黄色a一级视频 | www.玖玖玖| 射射色| 日韩欧美国产精品 | 国产精品伦一区二区三区视频 | 正在播放一区二区 | 亚洲午夜精品在线观看 | 免费高清在线一区 | 中文字幕二区三区 | 亚洲九九精品 | 91视频3p | 国产精品久久久久久久午夜 | av品善网| 日韩网站一区 | 国产超碰97 | 成人欧美日韩国产 | 黄色福利网站 | 久草在线资源观看 | 超碰免费公开 | 天天夜操 | 人人爽人人爽人人片av | 久草视频在线免费 | 天天操狠狠操夜夜操 | 99热超碰在线| 婷婷亚洲五月色综合 | av电影在线免费观看 | 国产手机在线播放 | 中文字幕频道 | 午夜视频在线观看欧美 | 男女激情免费网站 | 激情五月伊人 | 欧美日韩综合在线观看 | 免费在线播放 | 樱空桃av| 国产高清日韩欧美 | 男女精品久久 | 高清av影院 | 日黄网站| 精品免费在线视频 | 91在线播放视频 | 国产精品久久久一区二区 | 91色一区二区三区 | 国产精品久久三 | 欧美精品久久久久性色 | 久久精品一区二区国产 | 久草在线视频网站 | 国产一区在线精品 | 亚洲综合少妇 | 99自拍视频在线观看 | 日韩精品视频免费在线观看 | 精品在线观看免费 | 久久在线观看视频 | 激情网站免费观看 | 亚洲永久精品在线 | 中文字幕成人在线 | 九九视频免费观看视频精品 | 久久久久电影网站 | 亚洲视频电影在线 | 国产精品成人一区二区三区吃奶 | 久久免费av电影 | 国产成人久久av977小说 | 午夜色婷婷 | 久久成人资源 | 人人玩人人添人人 | 亚洲成aⅴ人在线观看 | 国产色婷婷在线 | 久久99精品久久久久久久久久久久 | 久久久国产网站 | 婷婷色六月天 | 久久热亚洲 | 在线视频 国产 日韩 | 日韩精品播放 | 不卡的av在线 | 日韩在线观看视频在线 | 经典三级一区 | 99视频网站 | 免费看黄20分钟 | 在线免费观看不卡av | 人人干天天射 | 狠狠干夜夜 | 69亚洲视频 | 99一级片 | 精品福利在线视频 | 日本九九视频 | 天天插天天色 | 夜夜操网站| 69国产盗摄一区二区三区五区 | 精品久久久久久一区二区里番 | 日韩av一区二区三区四区 | 久久视频精品在线观看 | 日韩三级中文字幕 | 99国产精品免费网站 | 国产精品美女久久久久久免费 | av九九| 在线亚洲观看 | 亚洲一级电影视频 | 国产日本亚洲高清 | 国产人成免费视频 | 一区二区三区在线免费观看 | 免费在线观看亚洲视频 | 久久9精品 | www.天天色.com | 玖玖视频免费在线 | 国产综合香蕉五月婷在线 | 亚洲国内在线 | 久草在在线| av电影不卡在线 | 国产成人三级 | www中文在线 | 九九九九精品 | 国产精品网红福利 | 91精品免费在线视频 | 国产明星视频三级a三级点| 中文字幕在线观看的网站 | 国产青春久久久国产毛片 | 伊人亚洲精品 | 亚洲精品视频在线观看免费视频 | 久草视频观看 | 亚洲国产成人精品久久 | 成人av在线亚洲 | 久久久久亚洲精品成人网小说 | 亚洲精品91天天久久人人 | 亚洲国产精品资源 | 91精品国产乱码久久桃 | 欧美性极品xxxx娇小 | 天天干 天天摸 天天操 | 在线国产小视频 | 日韩视频免费观看高清完整版在线 | 91在线免费视频观看 | 91成人网在线观看 | 欧美在线视频不卡 | 色综合久久88 | 亚州精品视频 | 日韩超碰 | 欧美精品一区二区免费 | 天天操天天色综合 | 97精品国产97久久久久久春色 | 色多视频在线观看 | 亚洲欧美视频一区二区三区 | 精品久久五月天 | 国产精品久久久久久久久久久杏吧 | 欧美久久影院 | 欧美激情精品久久久久久免费 | 国产精品久久久久久久久久久久午夜 | 69精品 | 国产大片免费久久 | 国产伦理久久精品久久久久_ | 免费在线观看a v | 欧美日一级片 | 成年人在线免费看视频 | 99久久影院 | 97碰碰视频 | 国产精品成人自拍 | 九精品 | 三级黄色欧美 | 日日干天天插 | 欧美地下肉体性派对 | 午夜精品久久久 | 91av九色 | 999视频在线播放 | 欧美日韩高清一区二区三区 | 久草视频在线新免费 | 香蕉网站在线观看 | 在线观看av麻豆 | 国产在线精品一区 | 午夜免费福利视频 | 国产日韩欧美在线 | 在线观看黄色国产 | 久久免费视频观看 | 欧美日韩一级在线 | 91精品久久久久久久久久久久久 | 久久久久久久久久久高潮一区二区 | 国产剧在线观看片 | 欧美亚洲另类在线视频 | 在线日韩精品视频 | 91看片成人 | 最近中文字幕第一页 | 综合激情伊人 | 日韩天堂在线观看 | 亚洲精品午夜久久久久久久久久久 | 在线观看久久久久久 | 一区二区电影网 | 九九热精品视频在线观看 | 欧美一区二区精美视频 | 成人午夜电影久久影院 | 黄色三级av | 亚洲精品视频一二三 | 免费a视频| 中文字幕一区二区三区乱码不卡 | 在线直播av | 五月婷婷中文网 | 在线香蕉视频 | 国产亚洲精品日韩在线tv黄 | 国产视频色 | 成人av亚洲 | 久久国产精品99久久久久久丝袜 | 99久久久国产精品免费观看 | www99久久| 黄色91在线观看 | 9久久精品 | 亚洲精品成人免费 | 久久天天躁夜夜躁狠狠85麻豆 | 免费三级黄 | 一区二区视频免费在线观看 | 亚洲 欧美 综合 在线 精品 | 国内精品国产三级国产aⅴ久 | 国产91精品在线观看 | 久操中文字幕在线观看 | 欧美激情第一区 | 免费在线观看av网址 | 国产精品男女啪啪 | 久久全国免费视频 | 首页国产精品 | 激情五月婷婷丁香 | 人人草网站 | 成人午夜电影免费在线观看 | 麻豆av电影 | 丁香在线 | av高清免费在线 | 久久99精品久久久久久 | 91成人免费看 | 国产精品综合久久久 | 日韩精品五月天 | 午夜手机看片 | 在线影视 一区 二区 三区 | 深爱五月网 | 久久免费精彩视频 | 人人干在线 | 欧美日韩不卡在线视频 | 久 久久影院 | 中文字幕在线播放视频 | 久久久久一区二区三区四区 | 97视频在线免费播放 | 精品国产乱码久久久久久1区2匹 | 精品毛片一区二区免费看 | 国产精品一区二区三区在线看 | 999男人的天堂 | 在线91网| 国产一级在线视频 | 国产最新在线视频 | 操操色| 99热在线精品观看 | 99久久精品久久久久久清纯 | 日本三级全黄少妇三2023 | 亚洲综合视频在线播放 | 美女视频黄色免费 | 国产亚洲久一区二区 | 国产在线不卡精品 | 久久伊人操 | 视频在线91 | 欧美在线1区 | 国产精品久久在线观看 | 成人在线免费av | 日本久久免费电影 | 精品国产91亚洲一区二区三区www | 久久亚洲视频 | 欧美日韩在线视频观看 | 午夜久久福利影院 | 亚洲成人国产精品 | 四虎成人精品永久免费av九九 | 欧美日韩一区二区三区在线免费观看 | 久久黄色网 | 亚洲国产精品资源 | 亚洲精品动漫在线 | 丁香电影小说免费视频观看 | 91亚洲精品国偷拍 | 国产一二区精品 | 国产91电影在线观看 | 国产精品 国产精品 | 2024国产在线 | 精品在线免费观看 | 日本精品视频免费观看 | 中文字幕一区二区三区四区在线视频 | 91精品视频免费在线观看 | 日韩视频中文字幕 | 五月婷丁香网 | 国产精品一区二区免费在线观看 | 亚洲国产精品成人女人久久 | 青青草国产精品视频 | 一区二区三区 亚洲 | 久久综合九色综合97_ 久久久 | 成人免费看片网址 | 伊人电影在线观看 | 在线观看成人小视频 | 高清精品久久 | 亚洲 欧洲 国产 日本 综合 | 久久中文字幕导航 | 国产精品免费久久久久久 | 亚在线播放中文视频 | 欧美日韩在线免费观看视频 | 91亚洲精品久久久中文字幕 | www中文在线 | 五月天综合色 | 美女久久久久久久 | 婷婷久久亚洲 | 韩国中文三级 | 日免费视频 | 色婷婷久久 | 国产精品久久嫩一区二区免费 | 国产在线精品区 | 国产精品刺激对白麻豆99 | 久久久九色精品国产一区二区三区 | 亚洲天堂在线观看完整版 | 国产视频观看 | 天天插综合| 九九免费视频 | 插久久 | av黄色成人 | 国产精选在线 | 国产区av在线 | 亚洲人成精品久久久久 | 99在线视频免费观看 | 亚洲精品中文字幕视频 | 91久久丝袜国产露脸动漫 | 一二区av | 精品一区二区免费 | 黄色在线免费观看网站 | 在线播放精品一区二区三区 | 国产色区 | 亚洲免费在线看 | 国产一级二级三级视频 | 欧美三级高清 | 日韩在线 | 国产不卡视频 | 狠狠色丁香久久婷婷综合_中 | 日日夜夜精品免费观看 | 狂野欧美激情性xxxx欧美 | 成人免费看视频 | 天天爱天天射 | 成人啪啪18免费游戏链接 | 91在线看黄 | 国产精品美女久久久久久 | 91在线视频免费播放 | 午夜视频99| 99久久精品国产观看 | 亚洲精品动漫在线 | 亚洲mv大片欧洲mv大片免费 | 国产高清不卡在线 | av大片网站 | 中文字幕欧美日韩va免费视频 | 精品久久久久久久久久久久久久久久久久 | 亚洲视频大全 | 天天想夜夜操 | 国产精品福利一区 | 久热色超碰 | a在线免费观看视频 | 欧美日韩精品免费观看 | 日韩在线观看一区二区三区 | 精品视频资源站 | 亚洲特级片| 国产精品美女久久久久久免费 | 天天夜夜亚洲 | 精品久久久久久国产 | 亚洲日韩精品欧美一区二区 | 99中文字幕| 天天天天天天天操 | 欧美日韩精品综合 | 国内三级在线观看 | 国产综合婷婷 | 中国精品少妇 | 国产精品久久久久久久久久三级 | av在线网站大全 | 欧美日韩免费一区二区三区 | 欧美日韩不卡一区二区三区 | 天天操天天干天天操天天干 | 一本一本久久a久久精品综合小说 | 精品国产一区二区三区日日嗨 | 日韩三级久久 | 美女久久久久久久久久久 | 久草9视频 | 91黄色免费网站 | 一区二区三区在线免费观看 | 国产99久久久国产精品免费二区 | 香蕉久草在线 | 国产精品久久久久久a | 美女黄频| 日韩区欠美精品av视频 | 热久在线 | 免费在线精品视频 | 在线观看国产麻豆 | 日本xxxx.com| 亚洲国产一区二区精品专区 | 久久久精品国产一区二区电影四季 | 成人91在线| 日韩高清网站 | 国产一级黄色电影 | 一区二区三区污 | 日韩一区二区三区观看 | 亚洲一级黄色大片 | 黄色av高清 | 国产特级毛片aaaaaa | 四虎在线永久免费观看 | 国产精品美女在线 | 久久久久久网 | 国产精品视频区 | 亚洲激情在线 | 久久精品123 | 国产精品女视频 | 四虎在线免费观看 | 91桃色在线免费观看 | 中文字幕在线观看视频一区 | 国产成人精品在线播放 | 三级在线视频播放 | 五月天婷亚洲天综合网精品偷 | 在线观看国产麻豆 | 成人免费视频在线观看 | 中文字幕在线影院 | 一区二区三区播放 | 国产一区久久久 | 婷婷丁香激情 | 亚洲黄色小说网址 | 91久久电影 | 国产无遮挡又黄又爽馒头漫画 | 91超级碰碰 | 人人舔人人爱 | 好看av在线 | 国产专区欧美专区 | 天天噜天天色 | 国产九色91 | 色黄久久久久久 | 久久视频| 国产精品久久久久久久久久免费 | 国产无遮挡又黄又爽在线观看 | 美女视频黄色免费 | 日日爱视频 | 综合久久久久久久 | 国产精品视频免费观看 | 日韩天天综合 | 婷婷六月天在线 | 99r在线精品 | 超碰97.com| 久久久黄色av | 国产美女视频 | 中文字幕 国产专区 | 国产精品久久久区三区天天噜 | 欧美日韩免费一区二区三区 | 亚洲国产欧洲综合997久久, | 国产乱对白刺激视频在线观看女王 | 亚洲欧美色婷婷 | 国产精品自拍av | 国内精品久久久久久久久久清纯 | 伊人天天操 | 中文字幕在线播放第一页 | 九九热精品视频在线播放 | 激情 一区二区 | 免费特级黄毛片 | 亚洲精品美女久久久 | 婷婷在线资源 | 国产二区电影 | 国产精品毛片一区二区在线看 | 亚洲精品成人免费 | 亚洲狠狠 | 国产免费久久久久 | 国产精品久久久精品 | a视频在线 | 日韩三级视频在线看 | 成人免费在线观看入口 | 国产一级免费在线观看 | 五月色综合 | 在线免费观看视频你懂的 | 免费在线一区二区三区 | 99精品在线视频观看 | 日韩福利在线观看 | 丁香av在线| 天天色天天色天天色 | 婷婷精品 | 91亚洲网站 | 国产一性一爱一乱一交 | 成人在线观看你懂的 | 久久久久久毛片精品免费不卡 | 久久伊人五月天 | 日日干干 | 精品国产乱码久久久久久1区二区 | 欧美日韩在线免费观看视频 | 综合久久精品 | 麻豆小视频在线观看 | 国产精品99久久久久久小说 | 日韩免费看片 | aⅴ精品av导航 | 国产午夜精品久久 | 久久资源总站 | 黄色一级片视频 | 九色在线视频 | 丁香伊人网 | 欧美日韩在线观看一区二区三区 | 97成人在线观看 | 99re亚洲国产精品 | 黄色网大全 | 五月在线 | 国产精品美女视频网站 | 粉嫩av一区二区三区四区 | 精品一区精品二区 | www.久久久 | 一区二区三区视频网站 | 五月婷婷视频在线 | 99精品热视频只有精品10 | 国产一级片免费播放 | 亚洲闷骚少妇在线观看网站 | 亚洲精选在线观看 | 狠狠干婷婷| 国产一级电影网 | av中文字幕不卡 | 中文区中文字幕免费看 | 久草网视频 | .精品久久久麻豆国产精品 亚洲va欧美 | 片黄色毛片黄色毛片 | 色视频在线免费 | 一级黄色在线免费观看 | 欧美日韩精品在线视频 | 国产视频2区 | 黄色日批网站 | 国产经典av | 国产精品毛片一区二区三区 | 久久久久久国产一区二区三区 | 久久av高清 | 国产精品麻豆欧美日韩ww | 99热只有精品在线观看 | a午夜电影 | 午夜黄色 | 日韩超碰| 国产一区二区免费 | 日韩精品一区二区在线 | 欧美国产日韩激情 | 2024国产精品视频 | 欧美精品久久天天躁 | 国产专区日韩专区 | 久久综合九九 | 国产96精品 | 亚洲激情在线观看 | 欧美成人在线免费观看 | 色中色亚洲 | 日韩欧美黄色网址 | 深夜免费福利网站 | 欧美日韩精品免费观看 | 国产在线黄色 | 手机成人免费视频 | 激情五月婷婷综合 | 亚洲国产日韩在线 | 99爱视频 | 国产精品久久久久久久久久久不卡 | 99精品久久久久久久久久综合 | 日韩欧美一级二级 | 婷久久| 亚洲视频第一页 | 在线免费高清视频 | 91麻豆精品一区二区三区 | 国产视频一区二区三区在线 | 五月激情av | 天天爱天天色 | 人人草人人草 | 激情网站免费观看 | 国产麻豆精品久久 | 久久不射网站 | 精品国自产在线观看 | 久久免费视频在线观看6 | 日本在线视频一区二区三区 | 日韩中文字幕免费视频 | 中文字幕国产一区二区 | av丁香| 99久国产| 国模精品一区二区三区 | 精品国产视频在线观看 | 中文字幕第一页在线播放 | 免费视频二区 | 九九热视频在线 | 国产精品久久久久婷婷二区次 | 黄色小说视频网站 | 九月婷婷综合网 | 日韩视频三区 | 免费观看av | 亚洲黄色小说网址 | 99久久精品视频免费 | 国产精品k频道 | 黄色特一级片 | 99久久夜色精品国产亚洲96 | 成人av资源站 | 美女视频黄色免费 | 天天操天天干天天综合网 | 欧美精品一区二区免费 | 日本精品久久久一区二区三区 | 99热国产精品 | 最新色站 | 丝袜一区在线 | 欧美成人h版 | 日韩av男人的天堂 | 午夜精品一区二区国产 | 精品国产一区二区三区四区在线观看 | 国产丝袜一区二区三区 | 丁香六月在线观看 | 成人欧美亚洲 | 91精品啪在线观看国产 | 久久久国产一区二区三区四区小说 | 婷婷在线免费视频 | 国产精品手机在线 | 成人在线视频免费看 | 国产一区免费在线观看 | 亚洲精选国产 | 狠狠狠狠狠狠狠干 | 亚洲最新在线视频 | 精品999| 亚洲v欧美v国产v在线观看 | 日韩在线精品 | 欧美日本不卡 | 成人超碰97| 成人免费毛片aaaaaa片 | 天天干亚洲| 成人在线视频论坛 | 久久久久久视频 | 欧美美女激情18p | 在线精品在线 | 亚洲综合视频在线播放 | 超薄丝袜一二三区 | 久久午夜电影网 | 九九在线播放 | 亚洲一级电影 | 国产色视频一区二区三区qq号 | 日韩高清av在线 | 精品国产亚洲在线 | 国产精品久久久av久久久 | 欧美激情视频一区二区三区免费 | 91亚洲精品乱码久久久久久蜜桃 | 天天射日| 国产精品丝袜久久久久久久不卡 | 亚洲一区二区三区91 | 免费看久久久 | 中文字幕中文字幕在线一区 | 婷婷伊人综合亚洲综合网 | 久久免费美女视频 | 日韩欧美在线一区二区 | 99视频偷窥在线精品国自产拍 | 欧美成人高清 | 天堂麻豆 | 婷婷久操| 亚洲精品视频国产 | 91av超碰| 视频在线观看亚洲 | 人人看人人草 | 奇米影视在线99精品 | 色狠狠操| 91视频一8mav | 亚洲精品在线一区二区 | 婷婷成人亚洲综合国产xv88 | 国产69精品久久99的直播节目 | 成年人网站免费在线观看 | 色九九在线 | 黄av免费在线观看 | 在线国产专区 | 久久国产精品免费一区 | 国产高清区 | 日韩欧在线 | 国内精品久久久久久久久久久久 | 五月天视频网站 | 天天色天天射天天操 | 日本黄色免费观看 | 午夜国产一区二区三区四区 | 国产精品日韩久久久久 | 99riav1国产精品视频 | 国产91在线免费视频 | 91视频国产高清 | 国产精品久久久av | 成人av观看 | 狠狠激情中文字幕 | 久久激情综合网 | 亚洲精品午夜久久久 | 日韩欧美不卡 | 二区在线播放 | 亚洲男男gaygay无套同网址 | 最近中文字幕免费大全 | 日韩中文字幕视频在线观看 | 国产精品一区欧美 | 国产福利a | 亚洲欧美国内爽妇网 | 成人在线黄色 | 悠悠av资源片 | 在线观看av不卡 | 黄色大片视频网站 | 狠狠操欧美 | 日韩欧美视频在线 | 国产91在线免费视频 | 亚洲理论片| 丁香激情婷婷 | av福利电影| 在线观看韩日电影免费 | 91大神电影| 亚洲五月婷婷 | 在线观看精品黄av片免费 | 久久久久久久久久久精 | 91久久国产露脸精品国产闺蜜 | 99久久99久久精品国产片 | 操老逼免费视频 | 国产成人久久精品亚洲 | 久久免费观看视频 | 国产免费亚洲高清 | 天天人人 | 国产精品久久久久久模特 | 久久国产片 | 91色亚洲 | 久久99精品久久久久久久久久久久 | 欧美性生活久久 | 在线看日韩 | 综合久久网 | 亚洲精品乱码白浆高清久久久久久 | 天天狠狠| 亚洲精品一区二区18漫画 | 国内精品久久久久久久久久久 | 天天做天天爱夜夜爽 | 中文字幕在线观看不卡 | 日韩av男人的天堂 | 色网站在线免费观看 | 久久久午夜剧场 | 国产精品久久久一区二区三区网站 | 国产日韩视频在线 | 国产欧美精品一区二区三区四区 | 亚洲成av人片在线观看 | 欧美特一级 | 免费在线观看中文字幕 | 人人干人人搞 | 91九色成人蝌蚪首页 | 中文av日韩| 韩国av免费在线观看 | 在线观看小视频 | 国产xvideos免费视频播放 | 亚洲精品视频在线观看网站 | 久久韩国免费视频 | www天天干com| 色综合久 | 午夜视频在线观看一区二区三区 | 又黄又爽又刺激的视频 | 国产一性一爱一乱一交 | 久久在线精品 | 日韩有码欧美 | 午夜精品久久久久久99热明星 | av免费观看在线 | 久草网在线观看 | 99夜色 | 亚洲毛片久久 | 国产你懂的在线 | 中文字幕一区二区三区乱码在线 | 久久精品久久久久 | 亚洲第一色| 视频在线观看一区 | 亚洲欧美国产精品久久久久 | 婷婷丁香激情网 | 国产精品无av码在线观看 | 日本久久久久久久久久 | 日韩二区在线播放 | 九九有精品 | 国产福利91精品张津瑜 | 成人网页在线免费观看 | 亚洲精品97 | 中文字幕亚洲欧美日韩 | 久久黄色免费视频 | 久久夜色精品国产欧美乱 | 国产一区观看 | 中文字幕一区二区三区久久 | 亚洲午夜剧场 | 啪啪动态视频 | 成人小电影在线看 | 国产精品毛片久久久久久 | 久操视频在线免费看 | 天天爱天天操天天爽 | 免费视频黄色 | 九色精品免费永久在线 | 亚洲日本一区二区在线 | 免费国产在线精品 | 免费成人短视频 | 综合色综合色 | 国产成人一区二区在线观看 | 亚洲天天综合网 | 久久97视频 | 日韩成人高清在线 | 国产成人一区二区三区在线观看 | 久久这里只有精品视频首页 | 亚洲一区二区三区91 | 手机色站| 亚洲精品国偷拍自产在线观看 | 99爱视频在线观看 | 91.dizhi永久地址最新 | 精产嫩模国品一二三区 | 最近最新最好看中文视频 | 91色综合 | 永久av免费在线观看 | 日韩艹 | 一区二区三区不卡在线 | 美女精品在线 | 亚洲免费公开视频 | 免费看一级一片 | av一区二区三区在线 | 三级黄色片在线观看 | av一二三区| av中文字幕在线免费观看 | 久久99久久99精品中文字幕 | 国产偷v国产偷∨精品视频 在线草 | 在线观看福利网站 | 欧美日韩色婷婷 | 免费在线激情电影 | 国产精品系列在线 | 久久躁日日躁aaaaxxxx | 日日干夜夜爱 | 国产午夜精品一区二区三区嫩草 | 天天干视频在线 | 成人免费看电影 | 免费观看成人 | 在线黄色免费av | 在线观看资源 | 国产在线久久久 | 亚洲五月六月 | 国产美女免费观看 | av成人免费观看 | 亚洲天堂激情 | 最新av在线网址 | 91精品视频免费 | 日韩乱色精品一区二区 | 亚洲精品乱码久久久久v最新版 | 综合在线亚洲 | 天天激情综合 | 日本三级久久 | 国产资源精品在线观看 | 99视频在线精品国自产拍免费观看 | 一级全黄毛片 | av电影不卡在线 | 91麻豆精品国产91久久久久 | 久久久久国产免费免费 | 国产精品婷婷 | 在线天堂中文在线资源网 | 91九色视频 | 欧美成人精品欧美一级乱黄 | 日日干av | 亚洲h在线播放在线观看h | 蜜臀av性久久久久蜜臀aⅴ涩爱 | 色狠狠狠| 91精品啪在线观看国产 | 在线视频app | 国产高清一区二区 | 九九热只有这里有精品 | 黄色小网站在线 | 超碰99在线| 天天综合天天做天天综合 | 欧美激情视频久久 | 国内精品久久久久影院优 | 亚洲国产日韩欧美 | 狠狠婷婷| 成年人app网址 | 国产一区二区三区 在线 | 久久久免费高清视频 | 国产精品美女免费视频 | 天天操天天色天天射 | 91精彩视频 | 五月天丁香综合 | 丁香五月亚洲综合在线 | 欧美精品久| 亚洲精品www久久久久久 | 国产在线国偷精品产拍免费yy | 不卡的av电影在线观看 | 蜜臀av免费一区二区三区 | 少妇bbw搡bbbb搡bbb | 国语久久 | 精品国产一区二区三区久久久蜜月 | 久久综合桃花 | 久久精品国产亚洲aⅴ | 在线精品在线 | 欧美日韩网址 | 激情五月在线 | 成人禁用看黄a在线 | 中文字幕在线观看资源 | 亚洲另类视频在线 | 欧美日韩国产一二 | 亚洲精品国偷拍自产在线观看蜜桃 | 国产日韩在线视频 | 亚洲 欧洲av | 色婷婷导航 | 亚洲国产小视频在线观看 | 欧美午夜视频在线 | 久久久福利 | 日韩免费在线 | 超碰国产97 | 免费看的毛片 | 天天爽人人爽夜夜爽 | 国产成人在线观看免费 | 国产亚洲在线视频 | 日p在线观看 | 在线精品观看国产 | 国产字幕av | 日韩精品一区二区三区不卡 | 日本一区二区免费在线观看 | 亚洲精品在线一区二区三区 | 日韩精品不卡在线 | 91传媒免费在线观看 | 521色香蕉网站在线观看 |