日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

Prometheus监控docker容器

發布時間:2024/3/13 编程问答 35 豆豆
生活随笔 收集整理的這篇文章主要介紹了 Prometheus监控docker容器 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

@

Prometheus(普羅米修斯)監控

Prometheus是最初在SoundCloud上構建的開源系統監視和警報工具包 。自2012年成立以來,許多公司和組織都采用了Prometheus,該項目擁有非?;钴S的開發人員和用戶社區 。

使用prometheus的特性

  • 易管理性

Prometheus核心部分只有一個單獨的二進制文件,可直接在本地工作,不依賴于分布式存儲

  • 不依賴分布式存儲,單服務器節點是自治的

  • 高效

    單一Prometheus可以處理數以百萬的監控指標;每秒處理數十萬

    的數據點

  • 易于伸縮

    Prometheus提供多種語言 的客戶端SDK,這些SDK可以快速讓應用程序納入到Prometheus的監控當中

  • 通過服務發現或靜態配置發現目標

  • 良好的可視化

除了自帶的可視化web界面,還有另外最新的Grafana可視化工具也提供了完整的Proetheus支持,基于 Prometheus提供的API還可以實現自己的監控可視化UI

docker搭建prometheus監控

環境:

  • 全部關閉防火墻,禁用selinux
主機IP安裝組件
machine172.16.46.111NodeEXporter、cAdvisor、 Prometheus Server、Grafana
node01172.16.46.112NodeEXporter、cAdvisor
node02172.16.46.113NodeEXporter、cAdvisor

安裝prometheus組件說明:

Prometheus Server: 普羅米修斯的主服務器,端口號9090
NodeEXporter: 負責收集Host硬件信息和操作系統信息,端口號9100
cAdvisor:負責收集Host上運行的容器信息,端口號占用8080
Grafana:負責展示普羅米修斯監控界面,端口號3000

altermanager:等待接收prometheus發過來的告警信息,altermanager再發送給定義的收件人

部署node-EXporter,收集硬件和系統信息

#3臺主機都要安裝 docker run -d -p 9100:9100 -v /proc:/host/proc -v /sys:/host/sys -v /:/rootfs --net=host prom/node-exporter --path.procfs /host/proc --path.sysfs /host/sys --collector.filesystem.ignored-mount-points "^/(sys|proc|dev|host|etc)($|/)"

PS:注意,為了網絡的高效率,我們的網絡使用的是host

驗證收集效果

部署安裝cAdvisor,收集節點容器信息

#3臺都要安裝 docker run -v /:/rootfs:ro -v /var/run:/var/run/:rw -v /sys:/sys:ro -v /var/lib/docker:/var/lib/docker:ro -p 8080:8080 --detach=true --name=cadvisor --net=host google/cadvisor

驗證收集效果傳遞

部署prometheus-server服務

先啟動一個prometheus服務,目的是復制他的配置文件,修改配置文件,prometheus掛載這個文件

mkdir /prometheus docker run -d --name test -P prom/prometheus docker cp test:/etc/prometheus/prometheus.yml /prometheus #編輯prometheus配置文件,在static_configs下面修改為 #以下添加的ip都將會被監控起來- targets: ['localhost:9090','localhost:8080','localhost:9100','172.16.46.112:8080','172.16.46.112:9100','172.16.46.113:8080','172.16.46.113:9100']

重新運行prometheus服務

收集cAdvisor和nodexporter的信息到prometheus

docker rm -f test docker run -d --name prometheus --net host -p 9090:9090 -v /prometheus/prometheus.yml:/etc/prometheus/prometheus.yml prom/prometheus

訪問測試

進入首頁會看到

在這里會出現簡單的圖形展示,和顯然,這樣看的話還得根據條件篩選著看,而且界面很簡單,所以我們還要接入grafana

在prometheus服務器上部署grafana

grafana主要概念

  • 插件:擴展功能作用,完成不能完成的事
  • 數據源:連接數據源,通過數據源提供數據 來出圖
  • dashboard:展示面板,出什么樣的圖

grafana在zabbix應用參考: https://blog.csdn.net/weixin_43815140/article/details/106109605

部署grafana

mkdir /grafana chmod 777 -R /grafana docker run -d -p 3000:3000 --name grafana -v /grafana:/var/lib/grafana -e "GF_SECURITY_ADMIN_PASSWORD=123.com" grafana/grafana

訪問測試
默認的用戶名和密碼:

username:admin
password:123.com

登錄進去,添加數據源

連接prometheus

點擊save&test開始開始連接

看到以上說明連接成功,不過還需要dashboard來展示圖案

prometheus提供3種自帶的方案

import后看一下效果

看起來效果比原來好的太多了,不過

grafana官網提供了更多的模板讓我們選擇 官網模板根據我們的需求可以在官網挑選一款合適自己環境的模板不是很難。

導入模板的2種方式

  • 下載JSON文件到本地,uoload上傳導入
  • 直接輸入ID,load就會自動加載到這個模板

我們就導入上面的模板為例

小微調試以后,會出現

不過這只是監控的宿主機資源信息,如果我們想看docker容器的信息

在官網查找與docker有關的模板導入并使用

找到一款全部適合的(ID:11600)

配置Alertmanager報警

啟動 AlertManager 來接受 Prometheus 發送過來的報警信息,并執行各種方式的報警。

alertmanager與prometheus工作流程如下

  • prometheus收集監測的信息
  • prometheus.yml文件定義rules文件,rules里包括了告警信息
  • prometheus把報警信息push給alertmanager ,alertmanager里面有定義收件人和發件人
  • alertmanager發送文件給郵箱或微信

告警等級

同樣以 Docker 方式啟動 AlertManager

同prometheus一樣,先啟動一個test容器,拷貝下來alertmanager的配置文件

mkdir /alertmanager docker run -d --name test -p 9093:9093 prom/alertmanager docker cp test:/etc/alertmanager/alertmanager.yml /alertmanager cp alertmanager.yml alertmanager.yml.bak

AlertManager 默認配置文件為 alertmanager.yml,在容器內路徑為/etc/alertmanager/alertmanager.yml

這里 AlertManager 默認啟動的端口為 9093,啟動完成后,瀏覽器訪問http://:9093 可以看到默認提供的 UI 頁面,不過現在是沒有任何告警信息的,因為我們還沒有配置報警規則來觸發報警

配置alertmanager郵箱報警

查看alertmanager的配置文件

簡單介紹一下主要配置的作用:簡單介紹一下主要配置的作用:

global: 全局配置,包括報警解決后的超時時間、SMTP 相關配置、各種渠道通知的 API 地址等等。

route: 用來設置報警的分發策略,它是一個樹狀結構,按照深度優先從左向右的順序進行匹配。

receivers: 配置告警消息接受者信息,例如常用的 email、wechat、slack、webhook 等消息通知方式。

inhibit_rules: 抑制規則配置,當存在與另一組匹配的警報(源)時,抑制規則將禁用與一組匹配的報警(目標)。

配置郵箱報警,首先我們郵箱需要開啟SMTP服務,并獲取唯一標識碼

編輯alertmanager.yml文件

編輯報警媒介等相關信息

global:resolve_timeout: 5msmtp_from: 'Sunny_lzs@foxmail.com' #定義發送的郵箱smtp_smarthost: 'smtp.qq.com:465'smtp_auth_username: 'Sunny_lzs@foxmail.com'smtp_auth_password: 'iwxrdwmdgofdbbdc'smtp_require_tls: falsesmtp_hello: 'qq.com' route:group_by: ['alertname']group_wait: 5sgroup_interval: 5srepeat_interval: 5mreceiver: 'email' receivers: - name: 'email'email_configs:- to: 'Sunny_lzs@foxmail.com' #定義接收的郵箱send_resolved: true inhibit_rules:- source_match:severity: 'critical'target_match:severity: 'warning'equal: ['alertname', 'dev', 'instance']

重啟alertmanager容器

docker rm -f test docker run -d --name alertmanager -p 9093:9093 -v /alertmanager/alertmanager.yml:/etc/alertmanager/alertmanager.yml prom/alertmanager

prometheus添加alertmanager報警規則

接下來,我們需要在 Prometheus 配置 AlertManager 服務地址以及告警規則,新建報警規則文件 node-up.rules 如下

mkdir /prometheus/rules cd /prometheus/rules vim node-up.rules groups: - name: node-uprules:- alert: node-upexpr: up{job="prometheus"} == 0for: 15slabels:severity: 1 team: nodeannotations:summary: "{{ $labels.instance }} 已停止運行超過 15s!"

修改prometheus.yml文件,添加rules規則

PS:這里 rule_files 為容器內路徑,需要將本地 node-up.rules 文件掛載到容器內指定路徑,修改 Prometheus 啟動命令如下,并重啟服務。

docker rm -f prometheus docker run -d --name prometheus -p 9090:9090 -v /prometheus/prometheus.yml:/etc/prometheus/prometheus.yml -v /prometheus/rules:/usr/local/prometheus/rules --net host prom/prometheus

在prometheus上查看相應的規則

觸發報警發送郵件

關掉其中一個服務就ok

[root@docker02 ~]# docker ps CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES 8d1cc177b58e google/cadvisor "/usr/bin/cadvisor -…" 4 hours ago Up 4 hours cadvisor b2417dbd850f prom/node-exporter "/bin/node_exporter …" 4 hours ago Up 4 hours gallant_proskuriakova [root@docker02 ~]# docker stop 8d1cc177b58e 8d1cc177b58e

查看郵件

Alertmanager自定義郵件報警

上面雖然已經可以做出報警,但是我們想讓報警信息更加直觀一些

alertmanager支持自定義郵件模板的

首先新建一個模板文件 email.tmpl

mkdir /alertmanager/template vim email.tmpl {{ define "email.from" }}Sunny_lzs@foxmail.com{{ end }} {{ define "email.to" }}Sunny_lzs@foxmail.com{{ end }} {{ define "email.to.html" }} {{ range .Alerts }} =========start==========<br> 告警程序: prometheus_alert<br> 告警級別: {{ .Labels.severity }}<br> 告警類型: {{ .Labels.alertname }}<br> 故障主機: {{ .Labels.instance }}<br> 告警主題: {{ .Annotations.summary }}<br> 觸發時間: {{ (.StartsAt.Add 28800e9).Format "2006-01-02 15:04:05" }} <br> =========end==========<br> {{ end }} {{ end }}

修改alertmanager文件

重建altermanager

[root@docker01 ~]# docker rm -f alertmanager [root@docker01 ~]# docker run -d --name alertmanager -p 9093:9093 -v /root/alertmanager.yml:/etc/alertmanager/alertmanager.yml -v /alertmanager/template:/etc/alertmanager-tmpl prom/alertmanager

測試

PS:模板里面的{{ (.StartsAt.Add 28800e9).Format "2006-01-02 15:04:05" }}是我們添加東八區時間以后的樣子.

擴展案例:添加主機CPU,內存,磁盤等報警監控規則

recording_rules規則: 記錄規則允許您預先計算經常需要的或計算開銷較大的表達式,并將它們的結果保存為一組新的時間序列。查詢預先計算的結果通常比每次需要執行原始表達式時要快得多

alert_rules規則: 警報規則允許您基于Prometheus表達式語言表達式定義警報條件,并向外部服務發送關于觸發警報的通知

PS: 記錄和警報規則的名稱必須是有效的指標名稱

因為我們已經定義了規則存放在/prometheus/rules/*.rules結尾的文件

所以,我們可以把所有的規則寫到這里

在prometheus.yml同級目錄下創建兩個報警規則配置文件node-exporter-record-rule.ymlnode-exporter-alert-rule.yml。第一個文件用于記錄規則,第二個是報警規則。

#prometheus關于報警規則配置 rule_files:- "/usr/local/prometheus/rules/*.rules"

PS:*.rules里面的job一定要與prometheus里面對應

scrape_configs:# The job name is added as a label `job=<job_name>` to any timeseries scraped from this config.- job_name: 'node-exporter'

添加記錄

#關于node-exporter-record.rules groups:- name: node-exporter-recordrules:- expr: up{job="node-exporter"}record: node_exporter:uplabels:desc: "節點是否在線, 在線1,不在線0"unit: " "job: "node-exporter"- expr: time() - node_boot_time_seconds{}record: node_exporter:node_uptimelabels:desc: "節點的運行時間"unit: "s"job: "node-exporter" ############################################################################################## # cpu #- expr: (1 - avg by (environment,instance) (irate(node_cpu_seconds_total{job="node-exporter",mode="idle"}[5m]))) * 100record: node_exporter:cpu:total:percentlabels:desc: "節點的cpu總消耗百分比"unit: "%"job: "node-exporter"- expr: (avg by (environment,instance) (irate(node_cpu_seconds_total{job="node-exporter",mode="idle"}[5m]))) * 100record: node_exporter:cpu:idle:percentlabels:desc: "節點的cpu idle百分比"unit: "%"job: "node-exporter"- expr: (avg by (environment,instance) (irate(node_cpu_seconds_total{job="node-exporter",mode="iowait"}[5m]))) * 100record: node_exporter:cpu:iowait:percentlabels:desc: "節點的cpu iowait百分比"unit: "%"job: "node-exporter"- expr: (avg by (environment,instance) (irate(node_cpu_seconds_total{job="node-exporter",mode="system"}[5m]))) * 100record: node_exporter:cpu:system:percentlabels:desc: "節點的cpu system百分比"unit: "%"job: "node-exporter"- expr: (avg by (environment,instance) (irate(node_cpu_seconds_total{job="node-exporter",mode="user"}[5m]))) * 100record: node_exporter:cpu:user:percentlabels:desc: "節點的cpu user百分比"unit: "%"job: "node-exporter"- expr: (avg by (environment,instance) (irate(node_cpu_seconds_total{job="node-exporter",mode=~"softirq|nice|irq|steal"}[5m]))) * 100record: node_exporter:cpu:other:percentlabels:desc: "節點的cpu 其他的百分比"unit: "%"job: "node-exporter" ############################################################################################################################################################################################ # memory #- expr: node_memory_MemTotal_bytes{job="node-exporter"}record: node_exporter:memory:totallabels:desc: "節點的內存總量"unit: bytejob: "node-exporter"- expr: node_memory_MemFree_bytes{job="node-exporter"}record: node_exporter:memory:freelabels:desc: "節點的剩余內存量"unit: bytejob: "node-exporter"- expr: node_memory_MemTotal_bytes{job="node-exporter"} - node_memory_MemFree_bytes{job="node-exporter"}record: node_exporter:memory:usedlabels:desc: "節點的已使用內存量"unit: bytejob: "node-exporter"- expr: node_memory_MemTotal_bytes{job="node-exporter"} - node_memory_MemAvailable_bytes{job="node-exporter"}record: node_exporter:memory:actualusedlabels:desc: "節點用戶實際使用的內存量"unit: bytejob: "node-exporter"- expr: (1-(node_memory_MemAvailable_bytes{job="node-exporter"} / (node_memory_MemTotal_bytes{job="node-exporter"})))* 100record: node_exporter:memory:used:percentlabels:desc: "節點的內存使用百分比"unit: "%"job: "node-exporter"- expr: ((node_memory_MemAvailable_bytes{job="node-exporter"} / (node_memory_MemTotal_bytes{job="node-exporter"})))* 100record: node_exporter:memory:free:percentlabels:desc: "節點的內存剩余百分比"unit: "%"job: "node-exporter" ############################################################################################## # load #- expr: sum by (instance) (node_load1{job="node-exporter"})record: node_exporter:load:load1labels:desc: "系統1分鐘負載"unit: " "job: "node-exporter"- expr: sum by (instance) (node_load5{job="node-exporter"})record: node_exporter:load:load5labels:desc: "系統5分鐘負載"unit: " "job: "node-exporter"- expr: sum by (instance) (node_load15{job="node-exporter"})record: node_exporter:load:load15labels:desc: "系統15分鐘負載"unit: " "job: "node-exporter"############################################################################################## # disk #- expr: node_filesystem_size_bytes{job="node-exporter" ,fstype=~"ext4|xfs"}record: node_exporter:disk:usage:totallabels:desc: "節點的磁盤總量"unit: bytejob: "node-exporter"- expr: node_filesystem_avail_bytes{job="node-exporter",fstype=~"ext4|xfs"}record: node_exporter:disk:usage:freelabels:desc: "節點的磁盤剩余空間"unit: bytejob: "node-exporter"- expr: node_filesystem_size_bytes{job="node-exporter",fstype=~"ext4|xfs"} - node_filesystem_avail_bytes{job="node-exporter",fstype=~"ext4|xfs"}record: node_exporter:disk:usage:usedlabels:desc: "節點的磁盤使用的空間"unit: bytejob: "node-exporter"- expr: (1 - node_filesystem_avail_bytes{job="node-exporter",fstype=~"ext4|xfs"} / node_filesystem_size_bytes{job="node-exporter",fstype=~"ext4|xfs"}) * 100record: node_exporter:disk:used:percentlabels:desc: "節點的磁盤的使用百分比"unit: "%"job: "node-exporter"- expr: irate(node_disk_reads_completed_total{job="node-exporter"}[1m])record: node_exporter:disk:read:count:ratelabels:desc: "節點的磁盤讀取速率"unit: "次/秒"job: "node-exporter"- expr: irate(node_disk_writes_completed_total{job="node-exporter"}[1m])record: node_exporter:disk:write:count:ratelabels:desc: "節點的磁盤寫入速率"unit: "次/秒"job: "node-exporter"- expr: (irate(node_disk_written_bytes_total{job="node-exporter"}[1m]))/1024/1024record: node_exporter:disk:read:mb:ratelabels:desc: "節點的設備讀取MB速率"unit: "MB/s"job: "node-exporter"- expr: (irate(node_disk_read_bytes_total{job="node-exporter"}[1m]))/1024/1024record: node_exporter:disk:write:mb:ratelabels:desc: "節點的設備寫入MB速率"unit: "MB/s"job: "node-exporter"############################################################################################## # filesystem #- expr: (1 -node_filesystem_files_free{job="node-exporter",fstype=~"ext4|xfs"} / node_filesystem_files{job="node-exporter",fstype=~"ext4|xfs"}) * 100record: node_exporter:filesystem:used:percentlabels:desc: "節點的inode的剩余可用的百分比"unit: "%"job: "node-exporter" ############################################################################################# # filefd #- expr: node_filefd_allocated{job="node-exporter"}record: node_exporter:filefd_allocated:countlabels:desc: "節點的文件描述符打開個數"unit: "%"job: "node-exporter"- expr: node_filefd_allocated{job="node-exporter"}/node_filefd_maximum{job="node-exporter"} * 100record: node_exporter:filefd_allocated:percentlabels:desc: "節點的文件描述符打開百分比"unit: "%"job: "node-exporter"############################################################################################# # network #- expr: avg by (environment,instance,device) (irate(node_network_receive_bytes_total{device=~"eth0|eth1|ens33|ens37"}[1m]))record: node_exporter:network:netin:bit:ratelabels:desc: "節點網卡eth0每秒接收的比特數"unit: "bit/s"job: "node-exporter"- expr: avg by (environment,instance,device) (irate(node_network_transmit_bytes_total{device=~"eth0|eth1|ens33|ens37"}[1m]))record: node_exporter:network:netout:bit:ratelabels:desc: "節點網卡eth0每秒發送的比特數"unit: "bit/s"job: "node-exporter"- expr: avg by (environment,instance,device) (irate(node_network_receive_packets_total{device=~"eth0|eth1|ens33|ens37"}[1m]))record: node_exporter:network:netin:packet:ratelabels:desc: "節點網卡每秒接收的數據包個數"unit: "個/秒"job: "node-exporter"- expr: avg by (environment,instance,device) (irate(node_network_transmit_packets_total{device=~"eth0|eth1|ens33|ens37"}[1m]))record: node_exporter:network:netout:packet:ratelabels:desc: "節點網卡發送的數據包個數"unit: "個/秒"job: "node-exporter"- expr: avg by (environment,instance,device) (irate(node_network_receive_errs_total{device=~"eth0|eth1|ens33|ens37"}[1m]))record: node_exporter:network:netin:error:ratelabels:desc: "節點設備驅動器檢測到的接收錯誤包的數量"unit: "個/秒"job: "node-exporter"- expr: avg by (environment,instance,device) (irate(node_network_transmit_errs_total{device=~"eth0|eth1|ens33|ens37"}[1m]))record: node_exporter:network:netout:error:ratelabels:desc: "節點設備驅動器檢測到的發送錯誤包的數量"unit: "個/秒"job: "node-exporter"- expr: node_tcp_connection_states{job="node-exporter", state="established"}record: node_exporter:network:tcp:established:countlabels:desc: "節點當前established的個數"unit: "個"job: "node-exporter"- expr: node_tcp_connection_states{job="node-exporter", state="time_wait"}record: node_exporter:network:tcp:timewait:countlabels:desc: "節點timewait的連接數"unit: "個"job: "node-exporter"- expr: sum by (environment,instance) (node_tcp_connection_states{job="node-exporter"})record: node_exporter:network:tcp:total:countlabels:desc: "節點tcp連接總數"unit: "個"job: "node-exporter"############################################################################################# # process #- expr: node_processes_state{state="Z"}record: node_exporter:process:zoom:total:countlabels:desc: "節點當前狀態為zoom的個數"unit: "個"job: "node-exporter" ############################################################################################# # other #- expr: abs(node_timex_offset_seconds{job="node-exporter"})record: node_exporter:time:offsetlabels:desc: "節點的時間偏差"unit: "s"job: "node-exporter"#############################################################################################- expr: count by (instance) ( count by (instance,cpu) (node_cpu_seconds_total{ mode='system'}) )record: node_exporter:cpu:count

關于報警文件

#關于node-exporer-alert.rules groups:- name: node-exporter-alertrules:- alert: node-exporter-downexpr: node_exporter:up == 0for: 1mlabels:severity: 'critical'annotations:summary: "instance: {{ $labels.instance }} 宕機了"description: "instance: {{ $labels.instance }} \n- job: {{ $labels.job }} 關機了, 時間已經1分鐘了。"value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-cpu-highexpr: node_exporter:cpu:total:percent > 80for: 3mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} cpu 使用率高于 {{ $value }}"description: "instance: {{ $labels.instance }} \n- job: {{ $labels.job }} CPU使用率已經持續三分鐘高過80% 。"value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-cpu-iowait-highexpr: node_exporter:cpu:iowait:percent >= 12for: 3mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} cpu iowait 使用率高于 {{ $value }}"description: "instance: {{ $labels.instance }} \n- job: {{ $labels.job }} cpu iowait使用率已經持續三分鐘高過12%"value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-load-load1-highexpr: (node_exporter:load:load1) > (node_exporter:cpu:count) * 1.2for: 3mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} load1 使用率高于 {{ $value }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-memory-highexpr: node_exporter:memory:used:percent > 85for: 3mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} memory 使用率高于 {{ $value }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-disk-highexpr: node_exporter:disk:used:percent > 88for: 10mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} disk 使用率高于 {{ $value }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-disk-read:count-highexpr: node_exporter:disk:read:count:rate > 3000for: 2mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} iops read 使用率高于 {{ $value }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-disk-write-count-highexpr: node_exporter:disk:write:count:rate > 3000for: 2mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} iops write 使用率高于 {{ $value }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-disk-read-mb-highexpr: node_exporter:disk:read:mb:rate > 60for: 2mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} 讀取字節數 高于 {{ $value }}"description: ""instance: "{{ $labels.instance }}"value: "{{ $value }}"- alert: node-exporter-disk-write-mb-highexpr: node_exporter:disk:write:mb:rate > 60for: 2mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} 寫入字節數 高于 {{ $value }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-filefd-allocated-percent-highexpr: node_exporter:filefd_allocated:percent > 80for: 10mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} 打開文件描述符 高于 {{ $value }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-network-netin-error-rate-highexpr: node_exporter:network:netin:error:rate > 4for: 1mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} 包進入的錯誤速率 高于 {{ $value }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-network-netin-packet-rate-highexpr: node_exporter:network:netin:packet:rate > 35000for: 1mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} 包進入速率 高于 {{ $value }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-network-netout-packet-rate-highexpr: node_exporter:network:netout:packet:rate > 35000for: 1mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} 包流出速率 高于 {{ $value }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-network-tcp-total-count-highexpr: node_exporter:network:tcp:total:count > 40000for: 1mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} tcp連接數量 高于 {{ $value }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-process-zoom-total-count-highexpr: node_exporter:process:zoom:total:count > 10for: 10mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} 僵死進程數量 高于 {{ $value }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"- alert: node-exporter-time-offset-highexpr: node_exporter:time:offset > 0.03for: 2mlabels:severity: infoannotations:summary: "instance: {{ $labels.instance }} {{ $labels.desc }} {{ $value }} {{ $labels.unit }}"description: ""value: "{{ $value }}"instance: "{{ $labels.instance }}"

配置企業微信報警

新建一個存放wechat.tmpl的目錄

mkdir /alertmanager/template/ cd /alertmanager/template/ vim wechat.tmpl ## 帶恢復告警的模版 注:alertmanager.yml wechat_configs中加上配置send_resolved: true {{ define "wechat.default.message" }} {{ range $i, $alert :=.Alerts }} ===alertmanager監控報警=== 告警狀態:{{ .Status }} 告警級別:{{ $alert.Labels.severity }} 告警類型:{{ $alert.Labels.alertname }} 告警應用:{{ $alert.Annotations.summary }} 故障主機: {{ $alert.Labels.instance }} 告警主題: {{ $alert.Annotations.summary }} 觸發閥值:{{ $alert.Annotations.value }} 告警詳情: {{ $alert.Annotations.description }} 觸發時間: {{ $alert.StartsAt.Format "2006-01-02 15:04:05" }} ===========end============ {{ end }} {{ end }}

修改alertmanager里面的收件人

global:resolve_timeout: 5mwechat_api_corp_id: 'ww2b0ab679438a91fc'wechat_api_url: 'https://qyapi.weixin.qq.com/cgi-bin/'wechat_api_secret: 'Zl6pH_f-u2R1bwqDVPfLFygTR-JaYpH08vcTBr8xb0A' templates:- '/etc/alertmanager/template/wechat.tmpl' route:group_by: ['alertname']group_wait: 10sgroup_interval: 10srepeat_interval: 1hreceiver: 'wechat' receivers: - name: 'wechat'wechat_configs:- send_resolved: trueto_party: '2'to_user: 'LiZhiSheng'agent_id: 1000005corp_id: 'ww2b0ab679438a91fc'api_url: 'https://qyapi.weixin.qq.com/cgi-bin/'api_secret: 'Zl6pH_f-u2R1bwqDVPfLFygTR-JaYpH08vcTBr8xb0A' inhibit_rules:- source_match:severity: 'critical'target_match:severity: 'warning'equal: ['alertname', 'dev', 'instance']

prometheus配置不要變,我們還使用以前的rules規則

重啟alertmanager

docker run -d --name alertmanager -p 9093:9093 -v /alertmanager/alertmanager.yml:/etc/alertmanager/alertmanager.yml -v /alertmanager/template/:/etc/alertmanager/template prom/alertmanager

參數說明:

  • corp_id: 企業微信賬號唯一 ID, 可以在我的企業中查看。
  • to_party: 需要發送的組。
  • to_user: 需要發送的用戶
  • agent_id: 第三方企業應用的 ID,可以在自己創建的第三方企業應用詳情頁面查看。
  • api_secret: 第三方企業應用的密鑰,可以在自己創建的第三方企業應用詳情頁面查看。

驗證:

停掉一臺docker容器

恢復消息如下

總結

以上是生活随笔為你收集整理的Prometheus监控docker容器的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

国内精品亚洲 | 国内成人综合 | 日韩在线电影一区二区 | 欧美精品久久久久久久亚洲调教 | 亚洲天堂网在线观看视频 | 99精品视频一区 | 精品资源在线 | 尤物97国产精品久久精品国产 | 亚洲综合激情小说 | 手机看片国产日韩 | 久草在线电影网 | 毛片网在线播放 | 精品乱码一区二区三四区 | 国产精品一区二区久久久久 | av在线精品| 视频在线观看99 | 国产精品久久久久久久久婷婷 | 精品一区二区免费视频 | 日韩精品一区二区三区在线视频 | 中文字幕视频 | 日本成人黄色片 | 成人在线免费观看视视频 | 黄a在线| 夜夜天天干 | 亚洲免费精彩视频 | 久久这里精品视频 | 69精品久久久 | 狠狠躁夜夜躁人人爽超碰97香蕉 | 九色视频网站 | 天天天在线综合网 | 丝袜护士aⅴ在线白丝护士 天天综合精品 | 97超碰超碰 | 日韩成人看片 | www黄在线 | 18av在线视频| 免费欧美高清视频 | 香蕉在线观看视频 | 91系列在线 | 欧美日韩激情视频8区 | 欧美日韩破处 | 成人av片在线观看 | av天天草| 中文字幕在线观看你懂的 | 天天在线免费视频 | 国产高清亚洲 | 国产69久久精品成人看 | 亚洲精品久久激情国产片 | 天天爽综合网 | av色网站 | www夜夜操com | 久久久久久免费网 | 午夜国产影院 | japanese黑人亚洲人4k | 黄av免费 | 国模一区二区三区四区 | 久久超| 国产精品第72页 | 91精品一区二区三区蜜臀 | 国产成人在线免费观看 | www黄色 | 久久夜色精品亚洲噜噜国4 午夜视频在线观看欧美 | 亚洲国产免费看 | 很黄很污的视频网站 | 欧美一级小视频 | 久久99亚洲精品 | 国产精品99在线播放 | 九九免费在线观看视频 | 伊人午夜 | 国产成人精品女人久久久 | 久草精品视频 | 中文字幕电影网 | 夜夜视频 | 日韩精品网址 | 在线国产视频 | 91成人免费在线 | 日韩高清av在线 | 日韩在线观看三区 | 亚洲成人免费 | 亚洲国产偷 | 亚洲成a人片在线观看中文 中文字幕在线视频第一页 狠狠色丁香婷婷综合 | 九九热免费在线观看 | 99国产一区 | 亚洲一区精品人人爽人人躁 | 亚洲精品视频免费看 | 成人免费看片98欧美 | 国产视频美女 | 中文字幕免费高清在线 | 天天操天天操一操 | 国产亚洲综合性久久久影院 | 夜夜夜影院 | 天天色草 | 91在线九色 | 丁香六月av | 91久久在线观看 | 亚洲精品美女久久17c | 国产韩国日本高清视频 | 亚洲一级性 | 成人a视频片观看免费 | 国产精品一区二区在线观看免费 | 婷婷在线免费 | 亚洲aⅴ乱码精品成人区 | 久久久久久久国产精品 | 亚洲欧美国产精品18p | 亚洲欧美激情插 | 狂野欧美激情性xxxx欧美 | 五月色丁香 | 国产一区二区视频在线 | 成人动漫一区二区 | 日韩精品久久久久久中文字幕8 | 中文在线a∨在线 | 国产一区二区视频在线播放 | 免费观看av网站 | 午夜免费电影院 | 天天爽天天爽 | 国产日韩精品欧美 | 永久免费的啪啪网站免费观看浪潮 | 免费看91的网站 | 99热这里精品 | av天天在线观看 | www.五月婷婷.com | 免费精品在线 | 免费三及片 | 91精品视频免费观看 | 日韩av二区| 久久中文字幕导航 | 久久手机看片 | avwww在线 | 99re国产| 午夜视频99 | 国产精品免费看久久久8精臀av | 亚洲精品中文在线观看 | 91精品免费在线 | 久久天天躁夜夜躁狠狠85麻豆 | 少妇搡bbbb搡bbb搡aa | 色偷偷97 | 黄色一级在线免费观看 | 日韩精品一区二区三区三炮视频 | 少妇高潮流白浆在线观看 | 免费精品在线视频 | 亚洲欧美在线观看视频 | 麻豆视频在线观看 | 精品人人人 | 在线视频一二区 | 亚洲天堂网视频在线观看 | 精品国产一区在线观看 | 人人爱夜夜操 | 麻豆视频在线免费看 | 婷婷激情在线 | 欧美亚洲免费在线一区 | 久久亚洲私人国产精品 | 欧美色伊人 | 夜夜爽88888免费视频4848 | 日本精品视频一区二区 | 久久精品伊人 | 久久综合激情 | 五月天色中色 | 亚洲在线a | 精品国产一区二区三区蜜臀 | 国产精品区二区三区日本 | 天天爽天天搞 | 五月婷婷av在线 | 一级黄色电影网站 | 99热手机在线 | 日韩精品免费专区 | 午夜10000| 国产美女精品视频 | 欧美国产精品一区二区 | 九九亚洲视频 | 91精品视频在线免费观看 | 国产精品久久亚洲 | 精品国产免费人成在线观看 | 国产亚洲高清视频 | 亚洲精品在线视频网站 | 高清av在线 | 日韩在线观看免费 | 99精品视频在线免费观看 | 中文字幕在线观看第一页 | 黄色网址a| 国产精品久久久久久久久久久久久久 | 国产国产人免费人成免费视频 | 日日干天夜夜 | 精品国产一区二区三区男人吃奶 | 国产中文字幕在线视频 | 亚洲第一久久久 | 国产视频资源 | 182午夜在线观看 | 欧美精品亚洲精品 | 国产一区在线视频播放 | 91视频在线免费看 | 欧美日韩国产综合一区二区 | 麻豆视频免费在线观看 | 国产精品大片免费观看 | 一本一道波多野毛片中文在线 | 一级特黄aaa大片在线观看 | 黄网站app在线观看免费视频 | 五月婷丁香网 | 久久久综合九色合综国产精品 | 成人免费视频播放 | 狠狠操影视 | 久久综合九色综合网站 | 天天躁天天操 | 国产高清视频免费最新在线 | av在线h| 国产精品一区二区久久精品爱涩 | 国产亚洲视频系列 | 日韩久久片 | 国产精品v a免费视频 | 日韩在线视频观看免费 | 国产精品国产毛片 | 福利av影院 | 欧美另类交在线观看 | av字幕在线 | 精品欧美在线视频 | www.夜夜夜| 久久伊人色综合 | 涩涩伊人 | 国产午夜精品一区二区三区在线观看 | 日韩免费一二三区 | 久久久久伊人 | 黄色免费观看视频 | 久久av电影 | 免费中文字幕在线观看 | 91视频在线国产 | 公与妇乱理三级xxx 在线观看视频在线观看 | 国产精品va最新国产精品视频 | 欧美日韩成人一区 | 亚洲精品免费在线观看 | 免费福利小视频 | 久草视频2 | 免费观看日韩 | 国产又粗又猛又爽又黄的视频先 | 美女久久 | 美女久久久 | 国产中文字幕视频 | 亚洲精品午夜国产va久久成人 | 国产69精品久久久久久久久久 | 国产精品久久久视频 | 超碰免费在线公开 | 亚洲va男人天堂 | 久草在线播放视频 | 99中文字幕在线观看 | 成人91在线观看 | 国产精品色婷婷视频 | 中文字幕日韩在线播放 | 超碰在线免费97 | 亚洲最新视频在线 | 欧美日一级片 | 国产精品久久电影网 | 免费午夜在线视频 | www色婷婷com| 日韩经典一区二区三区 | 91精品福利在线 | 久久国产高清视频 | 久久96国产精品久久99漫画 | 久久精品美女 | 91麻豆精品 | 成人啊 v| 色综合天天色 | 亚洲欧美少妇 | 久久国产精品色av免费看 | 在线观看视频精品 | 808电影免费观看三年 | 亚洲精品456在线播放乱码 | 在线观看成人福利 | 亚洲一区二区91 | 91视频一8mav | 婷婷播播网 | 狠狠色丁香九九婷婷综合五月 | 久久久久中文 | 综合色亚洲| 日韩精品第1页 | 亚洲一区二区高潮无套美女 | 国产精品久久一 | 国产精品美女久久久网av | 91 中文字幕| 亚州天堂 | 偷拍精偷拍精品欧洲亚洲网站 | 精品视频www | 超碰99人人 | www.夜色321.com | 在线观看理论 | 麻豆久久精品 | 国产日产精品久久久久快鸭 | 亚州精品国产 | 国产一区国产精品 | 亚洲成人一二三 | 色.www| 热久久免费视频 | 久久久免费电影 | 久久午夜电影院 | 免费视频国产 | 亚洲精品美女在线 | 最新精品视频在线 | 三级黄色网址 | 2019中文最近的2019中文在线 | 欧洲激情在线 | av观看久久久 | 久久中文视频 | 91精品国产99久久久久久久 | 97精品国产一二三产区 | 中文字幕免费观看视频 | 午夜精品久久久久久久久久 | 日本99干网 | 日韩激情精品 | 99国产高清| 97色在线观看免费视频 | 日本精品视频在线播放 | 91免费在线 | 人人干天天射 | 五月天婷亚洲天综合网精品偷 | 亚洲精品国产拍在线 | 久久久久福利视频 | 久久人网 | 成人va天堂 | 国产精品一区二区久久精品爱微奶 | 亚洲精品在线观看免费 | 在线播放精品一区二区三区 | 欧美一级黄色视屏 | 国产综合视频在线观看 | 国产在线观看一区 | 中文字幕在线视频一区二区 | 久草在线免费电影 | 久久 国产一区 | 国产精品美女免费看 | 新av在线| 中文字幕在线观看不卡 | 国产精品一区二区美女视频免费看 | 一区二区三区精品在线视频 | 日韩在线色视频 | 少妇资源站 | 久久久久欧美精品999 | 亚洲国产精彩中文乱码av | 精品电影一区二区 | 国产精品一区二区三区久久 | 久久国产精品久久久 | 99精品久久精品一区二区 | 日韩理论片在线观看 | 久草视频在线新免费 | 日韩aa视频 | 国产一二三在线视频 | 免费观看完整版无人区 | 日韩三级免费观看 | 草久在线视频 | 国产成人久久精品一区二区三区 | 日本大尺码专区mv | 伊人久久电影网 | 欧美性极品xxxx娇小 | 免费看的黄色录像 | 久久综合中文字幕 | 亚洲视频在线视频 | 国产高清av在线播放 | 久久国产高清 | 国产精品com | 日韩精品一区二区三区第95 | 国产一区二区三区免费视频 | 欧美a级成人淫片免费看 | 成人av影视在线 | 久草电影在线观看 | 中文字幕一区三区 | 极品久久久久久久 | 亚洲国产三级在线观看 | 激情欧美国产 | 亚洲视频网站在线观看 | 亚洲不卡在线 | 色婷婷国产精品一区在线观看 | 亚洲综合涩 | 久久久久久在线观看 | 中中文字幕av | 久久在线免费观看视频 | 欧美另类交人妖 | 99热在线观看免费 | 在线观看视频91 | 国产精品私人影院 | 欧美人人爱 | 亚洲春色奇米影视 | 欧美日韩在线视频免费 | 国产激情电影综合在线看 | 中文字幕文字幕一区二区 | 国内久久精品视频 | 天天天天色射综合 | 一区二区电影在线观看 | 丁香六月婷婷激情 | 丁香婷婷色综合亚洲电影 | 手机av永久免费 | 国产精品欧美久久久久天天影视 | 9幺看片| 亚洲成人二区 | 91免费观看视频在线 | 香蕉久久久久久av成人 | 综合久久久 | 免费在线观看成人 | 日日麻批40分钟视频免费观看 | 欧美精品xxx | 免费观看91视频 | 8090yy亚洲精品久久 | 亚洲成人影音 | 久久免费视频这里只有精品 | 国产精品久久久久免费观看 | 欧美日韩国产综合网 | 国产手机av | 五月婷婷丁香色 | 国产三级在线播放 | 99久高清在线观看视频99精品热在线观看视频 | 丁香九月激情综合 | jizz欧美性9 国产一区高清在线观看 | 9色在线视频 | 激情综合色综合久久 | 亚洲高清不卡av | 欧美精品小视频 | 麻豆免费视频 | 97精品国自产拍在线观看 | 91成人在线观看喷潮 | 久久99精品久久久久久久久久久久 | 国产精品久久久久久久久蜜臀 | 国精产品999国精产品视频 | 精品久久久久一区二区国产 | 国产午夜免费视频 | 色狠狠操 | 欧美a视频在线观看 | 成人毛片在线视频 | 国产精品美女久久久网av | 中文字幕精品www乱入免费视频 | 黄色午夜网站 | 欧美一区二区精品在线 | 免费av大全 | 久久综合欧美 | 又大又硬又黄又爽视频在线观看 | 在线97 | 国产 成人 久久 | www.香蕉| 日韩精品一区二区在线观看视频 | 国产美女永久免费 | 女人18毛片a级毛片一区二区 | 美女黄濒 | 草久中文字幕 | 亚洲综合视频在线 | 日韩成人高清在线 | 99精品乱码国产在线观看 | 免费黄在线观看 | 久久99视频精品 | 91精品国自产在线观看欧美 | 久保带人 | 国产精品初高中精品久久 | 五月天亚洲激情 | 丁香六月激情婷婷 | av7777777 | av在线播放不卡 | 日韩免费观看一区二区 | 国产美女在线精品免费观看 | 五月天综合网站 | 亚洲综合少妇 | 免费a网址 | 视频在线99re | 99精品视频免费全部在线 | 麻豆视传媒官网免费观看 | 欧美激情精品久久久久久免费印度 | 91天堂在线观看 | 97在线观看 | 国产资源网站 | 99久久99热这里只有精品 | 日韩av不卡在线播放 | 久久久久久久久福利 | 日本精品一区二区在线观看 | 国产精品欧美一区二区 | 亚洲视频www| 国内小视频 | 丁香六月综合网 | 日本bbbb摸bbbb| 日韩在线视| 国产色综合天天综合网 | 国产精品久久一卡二卡 | 午夜精品久久久久99热app | 国产成人黄色av | 综合色影院| 综合网在线视频 | 最近2019好看的中文字幕免费 | 国产精品色 | 在线观看黄色av | 欧美精品久久久久 | 国产精品久久久久久久久岛 | 一级黄色网址 | 日韩精品视频一二三 | 亚洲日本三级 | 久久综合丁香 | 91在线最新 | 激情综合网色播五月 | 精品久久久久国产 | 国产精品爽爽久久久久久蜜臀 | 日本精品视频免费 | 午夜成人影视 | 国产精品va视频 | 99久久99热这里只有精品 | www激情网 | 国产中文字幕一区二区三区 | 天天色棕合合合合合合 | 亚洲人成人天堂h久久 | 久久久久久久久亚洲精品 | 中文字幕 在线看 | 中文字幕在线观看日本 | 精品国内 | 国产免费一区二区三区最新6 | 国产精品18久久久久vr手机版特色 | 韩国精品在线观看 | 在线国产日韩 | 91中文字幕在线播放 | av网站地址 | 精品久久久亚洲 | 久草视频中文在线 | 国产一区二区不卡视频 | 亚洲精品自拍视频在线观看 | 91精品国产亚洲 | 欧美另类高潮 | 久久亚洲欧美日韩精品专区 | 在线精品播放 | 免费下载高清毛片 | 午夜精品电影 | 中文字幕在线看视频国产中文版 | 99在线热播精品免费 | 国产一区二区三区免费视频 | 嫩草av影院 | 91av视频在线观看免费 | 亚洲第一av在线播放 | 亚洲色图 校园春色 | 久久久夜色 | 久久欧美综合 | 精品电影一区 | 欧美黑人xxxx猛性大交 | 国产日产亚洲精华av | 欧美一二三在线 | 亚洲三级在线 | 丁香婷婷射| 这里有精品在线视频 | 亚洲国产精品电影 | 国产精品久久久久久久久费观看 | 丁香久久五月 | 黄色一级免费网站 | 91免费观看 | 97国产大学生情侣酒店的特点 | 一区二区观看 | 在线观看av不卡 | 国产一级片一区二区三区 | 国产中文在线播放 | 欧美 另类 交 | 天天干天天爽 | av一区二区三区在线播放 | 欧美天天射| 久久久久日本精品一区二区三区 | 久操中文字幕在线观看 | 日韩av一区二区三区四区 | 美女免费视频一区 | 五月婷婷综合在线观看 | 96亚洲精品久久 | 国产高清日韩欧美 | av福利资源 | 亚洲特级毛片 | 91精品国产乱码久久 | 视频一区二区在线 | 美女视频a美女大全免费下载蜜臀 | 色先锋资源网 | 91亚色在线观看 | www黄在线 | 91精品国产欧美一区二区成人 | 天天操狠狠操 | 国产精品高潮呻吟久久久久 | av一级片在线观看 | 国产精品综合在线 | 娇妻呻吟一区二区三区 | 亚洲精品自拍视频在线观看 | 亚洲第一成网站 | 国产精品久久片 | 在线亚洲人成电影网站色www | 欧美日韩高清 | 亚洲精品高清在线观看 | 免费久久久久久久 | 懂色av一区二区三区蜜臀 | 色综合咪咪久久网 | 免费色视频网址 | 午夜久久久久久久 | 97电影手机| 欧美最新另类人妖 | 国产精品一区二区av麻豆 | 深爱婷婷久久综合 | 麻豆成人小视频 | 六月激情 | 在线播放 日韩专区 | 婷婷在线免费观看 | 欧美人人| 国产成人在线看 | 国产精品嫩草在线 | 欧美激情综合网 | 久久尤物电影视频在线观看 | 最新中文字幕在线播放 | 国产精品第一视频 | 成人免费xxx在线观看 | 免费观看国产成人 | 91人人澡人人爽人人精品 | 开心丁香婷婷深爱五月 | 国产精品一区二区av影院萌芽 | 国产色女人| 久久久精品视频成人 | 成人免费在线观看av | 亚洲综合一区二区精品导航 | 黄色网址国产 | 精品国产99国产精品 | 国产视频在线一区二区 | 国产成人免费高清 | 精品久久精品 | 尤物97国产精品久久精品国产 | .国产精品成人自产拍在线观看6 | 国内精品久久久久久久久久清纯 | 国产精品久久久久久一二三四五 | 国产视频丨精品|在线观看 国产精品久久久久久久久久久久午夜 | 国产精品久久久毛片 | 成人在线视 | 国产手机在线 | 精品国产一二区 | 婷婷久月 | 日日夜夜精品 | 黄色aaa级片 | 中文字幕第一页在线 | 国产精品18久久久久白浆 | 日韩视频精品在线 | 97超碰人人澡人人爱 | 美女视频黄网站 | www.久久色| 国内精品中文字幕 | 国产欧美在线一区 | 国产精品一区二区三区在线看 | 玖玖玖在线 | 亚洲精品久久久蜜臀下载官网 | av免费在线免费观看 | 久久精品中文字幕免费mv | 亚洲精品一区二区三区四区高清 | 国产五月色婷婷六月丁香视频 | 亚洲欧洲久久久 | 国产啊v在线观看 | 久久久久久草 | 尤物九九久久国产精品的分类 | 在线黄频| 国产成人福利片 | www.av中文字幕.com | 麻豆国产精品永久免费视频 | 国产在线色站 | 91看片一区二区三区 | 久久精品一区二 | 婷婷综合久久 | 精品免费观看视频 | 久久国产精品久久久久 | 色视频成人在线观看免 | 91精品国产99久久久久久红楼 | 超碰成人免费电影 | 狠狠搞,com | 国产一区二区在线影院 | 毛片一区二区 | 人人干人人爽 | 国产色久 | 日韩欧美一区二区三区视频 | 中文字幕成人一区 | 91香蕉视频 | 午夜色场 | 国产高清免费av | 国产手机精品视频 | 亚洲视频999 | 91亚洲精品在线 | 中文字幕成人网 | 久久久精品国产一区二区电影四季 | 国产91丝袜在线播放动漫 | 在线观看国产麻豆 | 日韩久久久久久久久久 | 国产精品久久久久久久久久妇女 | 国精产品999国精产品岳 | 日韩成人黄色av | 999视频在线播放 | 久久久穴 | 国产精品18久久久久久vr | 精品一区二三区 | 综合精品久久久 | 在线91色| 在线看片91 | 久操视频在线 | 亚洲视频h | 狠狠色丁香久久综合网 | 久草视频一区 | 精品人妖videos欧美人妖 | 伊人天天狠天天添日日拍 | 看片在线亚洲 | 国产在线观看91 | 狠狠干 狠狠操 | 日本三级在线观看中文字 | 91九色精品女同系列 | 国产精品对白一区二区三区 | 特级大胆西西4444www | 欧美精品久久久久久久亚洲调教 | 日本韩国在线不卡 | 日韩中文字幕a | 四虎影视成人永久免费观看视频 | 人人爱爱人人 | 玖玖玖国产精品 | 国产韩国日本高清视频 | 成年人视频在线 | 日韩精品一区二区三区第95 | 日韩国产精品毛片 | 在线观看色网站 | 99在线播放 | 国产亚洲情侣一区二区无 | 91色欧美 | 四虎www com | 日韩av快播电影网 | 久久久资源网 | 国产精品久久久久亚洲影视 | 99亚洲精品在线 | 久久超碰99 | 国产乱码精品一区二区蜜臀 | 五月视频 | 天天射天天射 | 国内精品久久天天躁人人爽 | 狠狠狠色丁香婷婷综合久久五月 | 日韩免费在线 | 人人玩人人添人人 | 久久艹艹 | 国产麻豆成人传媒免费观看 | 国产精品专区一 | 在线观看av中文字幕 | 黄色在线免费观看网站 | 夜夜爽天天爽 | 久久在线一区 | 中文字幕韩在线第一页 | 欧美一级专区免费大片 | 亚洲精品乱码白浆高清久久久久久 | 久久不射电影网 | 亚洲精品午夜一区人人爽 | 久久成人国产精品一区二区 | 99久久999久久久精玫瑰 | 日本mv大片欧洲mv大片 | 亚洲一区黄色 | 国产一级电影 | 久久久精选 | 91麻豆精品国产91久久久久久久久 | 久久99久久精品国产 | 99爱爱| 久久精品二区 | 日韩在线观看av | 美女网站在线免费观看 | 久久免费精彩视频 | 91激情小视频 | 成年人电影免费看 | 久久久不卡影院 | 国产剧情一区在线 | 美女久久久久久久久久 | 日韩综合精品 | 国产一区在线观看视频 | 91九色国产在线 | 99久热在线精品视频观看 | 粉嫩av一区二区三区四区在线观看 | 亚洲黄色片 | 国内精品视频在线播放 | 97超级碰碰 | 日本丰满少妇免费一区 | av天天在线观看 | 亚洲va欧美va人人爽春色影视 | 中文字幕在线国产精品 | 免费在线观看一级片 | 在线观看视频在线观看 | 99免费看片 | 国产精品密入口果冻 | 成人午夜精品 | 天天色天天射天天干 | 国产成年免费视频 | 日韩国产欧美视频 | 91在线看视频 | 国产精品热视频 | 偷拍福利视频一区二区三区 | 天天干天天操天天爱 | 日日操日日插 | 日韩激情在线 | 深夜免费小视频 | 五月天欧美精品 | 欧洲亚洲精品 | 欧美在线视频一区二区 | 国产精品久久久777 成人手机在线视频 | av在线免费不卡 | 久久久久久国产精品免费 | 精品视频国产一区 | 五月婷婷国产 | 久碰视频在线观看 | 91超碰在线播放 | 中文字幕第一页在线 | 久久免费黄色网址 | www.亚洲精品视频 | 成人91在线 | 亚洲一区二区观看 | 久久综合色天天久久综合图片 | 一区二区三区高清在线观看 | 高清中文字幕 | 99九九热只有国产精品 | 在线你懂的视频 | 97日日碰人人模人人澡分享吧 | 久草五月 | 爱爱av网站| 性色av一区二区三区在线观看 | 狠狠色丁香婷婷综合欧美 | 国产精品激情偷乱一区二区∴ | 国产亚洲精品久久 | 国产美女视频黄a视频免费 久久综合九色欧美综合狠狠 | 欧美激情视频免费看 | 精品a在线 | 国产麻豆精品传媒av国产下载 | 国产精品免费久久久久久久久久中文 | 国内精品久久久久久中文字幕 | 久久久www免费电影网 | 日韩免费一区二区在线观看 | 久久久午夜精品理论片中文字幕 | 欧美日韩在线观看视频 | 91亚洲影院| 国产美女在线观看 | 91一区二区三区在线观看 | 91精品国自产在线观看 | 日韩在线不卡av | 丁香婷婷综合色啪 | 国产精品久久久久一区 | 青青草视频精品 | 激情欧美日韩一区二区 | 天天综合天天做天天综合 | 探花视频免费在线观看 | 欧美巨乳网 | 亚洲精品理论片 | 婷婷丁香六月 | av中文字幕网 | 久久99视频免费观看 | 国产亚洲aⅴaaaaaa毛片 | av不卡在线看| va视频在线观看 | 91在线九色 | 日韩视频免费播放 | 国产精品精品久久久久久 | 久久精品视频免费播放 | 久久免费电影网 | 激情大尺度视频 | 五月天激情在线 | 2019免费中文字幕 | 一区二区不卡高清 | 久久综合欧美 | 国内精品免费 | 国产大陆亚洲精品国产 | 免费观看www7722午夜电影 | 成人午夜影院在线观看 | 欧美巨大| 国产私拍在线 | 国产黄色a | 一级片黄色片网站 | 婷婷中文字幕在线观看 | 国产精品久久久久国产a级 激情综合中文娱乐网 | 午夜10000 | 91在线麻豆 | 成人国产综合 | 天天操天天爱天天干 | 亚洲精品国产日韩 | 国产高清在线免费观看 | 日韩欧美在线视频一区二区 | 久久99热国产 | 91精品第一页 | 日韩国产高清在线 | 国产成人三级 | 日韩电影在线观看一区二区三区 | 免费视频xnxx com | 欧美夫妻生活视频 | 久久精品中文字幕一区二区三区 | 91黄色成人| 五月婷综合| 亚洲成人av影片 | 91 在线视频 | 黄网在线免费观看 | 亚洲欧美精品在线 | 中文在线最新版天堂 | 夜色资源站国产www在线视频 | 久久av网| 亚洲欧洲xxxx| 欧美性大胆 | 成人在线视频观看 | 日韩毛片在线免费观看 | 97高清免费视频 | 91大片网站 | 亚洲第一区在线观看 | 欧美 日韩 国产 中文字幕 | 欧美激情综合五月色丁香 | 久久久2o19精品 | 日韩高清免费无专码区 | 国产精品久久久久av福利动漫 | 国产精品欧美久久久久天天影视 | japanese黑人亚洲人4k | 久久影视中文字幕 | 日本大尺码专区mv | 国产成人在线观看 | 日韩理论电影在线观看 | 日韩欧美一区二区在线 | 国产原创91 | 99精品系列 | 精品1区二区| 人人草人人做 | 亚洲一区美女视频在线观看免费 | 日韩中文字幕视频在线 | 成人网在线免费视频 | 二区在线播放 | a黄色片在线观看 | 色欧美成人精品a∨在线观看 | 成年人免费观看国产 | 五月天婷婷在线观看视频 | 天天久久综合 | 成人羞羞免费 | 国产人成在线观看 | www.午夜视频 | 久草在线资源观看 | 久久综合成人 | 国产视频中文字幕在线观看 | 国产经典 欧美精品 | 五月天综合网站 | 麻豆传媒视频在线播放 | 一级性生活片 | 欧美激情第八页 | 国产成人香蕉 | 日韩 在线观看 | 国产精品成人av电影 | 亚洲电影影音先锋 | 免费三级在线 | 国产在线不卡视频 | 久99视频 | 亚洲国产精品成人av | 中文字幕在线看视频国产中文版 | 麻豆精品视频在线 | 欧美久久电影 | 成人久久18免费网站图片 | 超碰在线人 | 亚洲香蕉在线观看 | 婷婷六月丁香激情 | 在线成人观看 | 久久伊人操 | av福利资源 | 成人午夜片av在线看 | 欧美福利精品 | 日日色综合 | 久久看片网 | 不卡电影一区二区三区 | 国产成人av电影在线观看 | 久久免费99精品久久久久久 | 97视频在线免费观看 | 91在线国产观看 | 国产91对白在线 | 国产玖玖在线 | 国产精品久久久久久久久久久久久 | 香蕉视频在线免费 | av免费线看 | 日韩字幕 | 久久久国产日韩 | 精品久久久精品 | 欧美黄色高清 | 天天碰天天操视频 | 深爱婷婷网| 国产无套精品久久久久久 | 麻豆一二三精选视频 | 在线天堂中文www视软件 | 国产精品12 | 日韩精品视频在线观看网址 | 久久五月激情 | 超碰人人干人人 | 最新av在线免费观看 | 91精品入口| 麻豆视频观看 | 在线91视频| 丁香婷婷综合五月 | 99久久久久久国产精品 | 中文字幕视频一区 | 亚洲免费公开视频 | 亚洲免费色 | 免费观看www视频 | 久久在线视频在线 | 婷婷六月中文字幕 | 国产精品久久久久久久久久久久 | 日韩 国产| 色午夜| 黄色精品久久久 | 久久久99精品免费观看 | 国产资源在线播放 | 亚洲欧洲av在线 | 国产精品久久久久四虎 | 中文字幕专区高清在线观看 | 人人插人人看 | 欧美一级免费高清 | 亚洲黄色一级视频 | 欧美在线观看视频免费 | 国产99免费视频 | 亚洲码国产日韩欧美高潮在线播放 | 五月婷在线 | 天天天天综合 | 欧美成人黄色 | 韩国精品一区二区三区六区色诱 | 人成在线免费视频 | 在线视频麻豆 | 啪啪av在线|