日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁(yè) > 编程资源 > 编程问答 >内容正文

编程问答

监控神器Prometheus,开箱即用!

發(fā)布時(shí)間:2024/3/26 编程问答 75 豆豆
生活随笔 收集整理的這篇文章主要介紹了 监控神器Prometheus,开箱即用! 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

文章來(lái)源:【公眾號(hào):云加社區(qū)】?

目錄

  • 簡(jiǎn)介

  • 整體生態(tài)

  • 工作原理

  • Metric 指標(biāo)

  • PromQL

  • Grafana 可視化

  • 監(jiān)控告警

簡(jiǎn)介

Prometheus 是一個(gè)開源的完整監(jiān)控解決方案,本文將從指標(biāo)抓取到查詢及可視化展示,以及最后的監(jiān)控告警,對(duì) Prometheus 做一個(gè)基本的認(rèn)識(shí)。

Prometheus 是古希臘神話里泰坦族的一名神明,名字的意思是“先見之明”,下圖中是 Prometheus 被宙斯懲罰,飽受肝臟日食夜長(zhǎng)之苦。

下面就是我們 CRUD Boy 所了解的 Prometheus,下面是其官網(wǎng)封面圖引導(dǎo)語(yǔ):From metrics to insight,從指標(biāo)到洞察力,通過指標(biāo)去洞察你的系統(tǒng),為我們的系統(tǒng)提供指標(biāo)收集和監(jiān)控的開源解決方案。

也就是說(shuō),Prometheus 是一個(gè)數(shù)據(jù)監(jiān)控的解決方案,讓我們能隨時(shí)掌握系統(tǒng)運(yùn)行的狀態(tài),快速定位問題和排除故障。

Prometheus 發(fā)展速度很快,12 年開發(fā)完成,16 年加入 CNCF,成為繼 K8s 之后第二個(gè) CNCF 托管的項(xiàng)目,而且社區(qū)很活躍,維護(hù)頻率很高,基本穩(wěn)定在 1 個(gè)月 1 個(gè)小版本的迭代速度。

整體生態(tài)

Prometheus 提供了從指標(biāo)暴露,到指標(biāo)抓取、存儲(chǔ)和可視化,以及最后的監(jiān)控告警等一系列組件。

| 指標(biāo)暴露

每一個(gè)被 Prometheus 監(jiān)控的服務(wù)都是一個(gè) Job,Prometheus 為這些 Job 提供了官方的 SDK ,利用這個(gè) SDK 可以自定義并導(dǎo)出自己的業(yè)務(wù)指標(biāo),也可以使用 Prometheus 官方提供的各種常用組件和中間件的 Exporter(比如常用的 MySQL,Consul 等等)。

對(duì)于短時(shí)間執(zhí)行的腳本任務(wù)或者不好直接 Pull 指標(biāo)的服務(wù),Prometheus 提供了 PushGateWay 網(wǎng)關(guān)給這些任務(wù)將服務(wù)指標(biāo)主動(dòng)推 Push 到網(wǎng)關(guān),Prometheus 再?gòu)倪@個(gè)網(wǎng)關(guān)里 Pull 指標(biāo)。

| 指標(biāo)抓取

上面提到了 Push 和 Pull,其實(shí)這是兩種指標(biāo)抓取模型。

Pull 模型:監(jiān)控服務(wù)主動(dòng)拉取被監(jiān)控服務(wù)的指標(biāo)。

被監(jiān)控服務(wù)一般通過主動(dòng)暴露 metrics 端口或者通過 Exporter 的方式暴露指標(biāo),監(jiān)控服務(wù)依賴服務(wù)發(fā)現(xiàn)模塊發(fā)現(xiàn)被監(jiān)控服務(wù),從而去定期的抓取指標(biāo)。

Push 模型:被監(jiān)控服務(wù)主動(dòng)將指標(biāo)推送到監(jiān)控服務(wù),可能需要對(duì)指標(biāo)做協(xié)議適配,必須得符合監(jiān)控服務(wù)要求的指標(biāo)格式。

對(duì)于 Prometheus 中的指標(biāo)抓取,采用的是 Pull 模型,默認(rèn)是一分鐘去拉取一次指標(biāo),通過 Prometheus.yaml 配置文件中的 scrape_interval 配置項(xiàng)配置。

Prometheus 對(duì)外都是用的 Pull 模型,一個(gè)是 Pull Exporter 的暴露的指標(biāo),一個(gè)是 Pull PushGateway 暴露的指標(biāo)。

| 指標(biāo)存儲(chǔ)和查詢

指標(biāo)抓取后會(huì)存儲(chǔ)在內(nèi)置的時(shí)序數(shù)據(jù)庫(kù)中,Prometheus 也提供了 PromQL 查詢語(yǔ)言給我們做指標(biāo)的查詢,我們可以在 Prometheus 的 WebUI 上通過 PromQL,可視化查詢我們的指標(biāo),也可以很方便的接入第三方的可視化工具,例如 grafana。

| 監(jiān)控告警

Prometheus 提供了 alertmanageer 基于 promql 來(lái)做系統(tǒng)的監(jiān)控告警,當(dāng) promql 查詢出來(lái)的指標(biāo)超過我們定義的閾值時(shí),prometheus 會(huì)發(fā)送一條告警信息到 alertmanager,manager 會(huì)將告警下發(fā)到配置好的郵箱或者微信。

工作原理

Prometheus 的從被監(jiān)控服務(wù)的注冊(cè)到指標(biāo)抓取到指標(biāo)查詢的流程分為五個(gè)步驟:

| 服務(wù)注冊(cè)

被監(jiān)控服務(wù)在 Prometheus 中是一個(gè) Job 存在,被監(jiān)控服務(wù)的所有實(shí)例在? Prometheus 中是一個(gè) target 的存在,所以被監(jiān)控服務(wù)的注冊(cè)就是在 Prometheus 中注冊(cè)一個(gè) Job 和其所有的 target,這個(gè)注冊(cè)分為:靜態(tài)注冊(cè)和動(dòng)態(tài)注冊(cè)。

靜態(tài)注冊(cè):靜態(tài)的將服務(wù)的 IP 和抓取指標(biāo)的端口號(hào)配置在 Prometheus yaml 文件的 scrape_configs 配置下。

scrape_configs:-?job_name:?"prometheus"static_configs:-?targets:?["localhost:9090"]

以上就是注冊(cè)了一個(gè)名為 prometheus 的服務(wù),這個(gè)服務(wù)下有一個(gè)實(shí)例,暴露的抓取地址是 localhost:9090。

動(dòng)態(tài)注冊(cè):動(dòng)態(tài)注冊(cè)就是在 Prometheus yaml 文件的 scrape_configs 配置下配置服務(wù)發(fā)現(xiàn)的地址和服務(wù)名。

Prometheus 會(huì)去該地址,根據(jù)你提供的服務(wù)名動(dòng)態(tài)發(fā)現(xiàn)實(shí)例列表,在 Prometheus 中,支持 consul,DNS,文件,K8s 等多種服務(wù)發(fā)現(xiàn)機(jī)制。

基于 consul 的服務(wù)發(fā)現(xiàn):

-?job_name:?"node_export_consul"metrics_path:?/node_metricsscheme:?httpconsul_sd_configs:-?server:?localhost:8500services:-?node_exporter

我們 consul 的地址就是:localhost:8500,服務(wù)名是 node_exporter,在這個(gè)服務(wù)下有一個(gè) exporter 實(shí)例:localhost:9600。

注意:如果是動(dòng)態(tài)注冊(cè),最好加上這兩配置,靜態(tài)注冊(cè)指標(biāo)拉取的路徑會(huì)默認(rèn)的幫我們指定為 metrics_path:/metrics,所以如果暴露的指標(biāo)抓取路徑不同或者是動(dòng)態(tài)的服務(wù)注冊(cè),最好加上這兩個(gè)配置。

不然會(huì)報(bào)錯(cuò)“INVALID“ is not a valid start token,演示下,百度了一下,這里可能是數(shù)據(jù)格式不統(tǒng)一導(dǎo)致。

metrics_path:?/node_metrics scheme:?http

最后可以在 webUI 中查看發(fā)現(xiàn)的實(shí)例:

目前,Prometheus 支持多達(dá)二十多種服務(wù)發(fā)現(xiàn)協(xié)議:

<azure_sd_config> <consul_sd_config> <digitalocean_sd_config> <docker_sd_config> <dockerswarm_sd_config> <dns_sd_config> <ec2_sd_config> <openstack_sd_config> <file_sd_config> <gce_sd_config> <hetzner_sd_config> <http_sd_config> <kubernetes_sd_config> <kuma_sd_config> <lightsail_sd_config> <linode_sd_config> <marathon_sd_config> <nerve_sd_config> <serverset_sd_config> <triton_sd_config> <eureka_sd_config> <scaleway_sd_config> <static_config>

| 配置更新

在更新完 Prometheus 的配置文件后,我們需要更新我們的配置到程序內(nèi)存里,這里的更新方式有兩種,第一種簡(jiǎn)單粗暴,就是重啟 Prometheus,第二種是動(dòng)態(tài)更新的方式。如何實(shí)現(xiàn)動(dòng)態(tài)的更新 Prometheus 配置?

第一步:首先要保證啟動(dòng) Prometheus 的時(shí)候帶上啟動(dòng)參數(shù):--web.enable-lifecycle。

prometheus?--config.file=/usr/local/etc/prometheus.yml?--web.enable-lifecycle

第二步:去更新我們的 Prometheus 配置。

curl?-v?--request?POST?'http://localhost:9090/-/reload'

第三步:更新完配置后,我們可以通過 Post 請(qǐng)求的方式,動(dòng)態(tài)更新配置。

原理:Prometheus 在 web 模塊中,注冊(cè)了一個(gè) handler。

if?o.EnableLifecycle?{router.Post("/-/quit",?h.quit)router.Put("/-/quit",?h.quit)router.Post("/-/reload",?h.reload)??//?reload配置router.Put("/-/reload",?h.reload)??? }

通過 h.reload 這個(gè) handler 方法實(shí)現(xiàn):這個(gè) handler 就是往一個(gè) channle 中發(fā)送一個(gè)信號(hào)。

func?(h?*Handler)?reload(w?http.ResponseWriter,?r?*http.Request)?{rc?:=?make(chan?error)h.reloadCh?<-?rc????//?發(fā)送一個(gè)信號(hào)到channe了中if?err?:=?<-rc;?err?!=?nil?{http.Error(w,?fmt.Sprintf("failed?to?reload?config:?%s",?err),?http.StatusInternalServerError)} }

在 main 函數(shù)中會(huì)去監(jiān)聽這個(gè) channel,只要有監(jiān)聽到信號(hào),就會(huì)做配置的 reload,重新將新配置加載到內(nèi)存中。

case?rc?:=?<-webHandler.Reload():if?err?:=?reloadConfig(cfg.configFile,?cfg.enableExpandExternalLabels,?cfg.tsdb.EnableExemplarStorage,?logger,?noStepSubqueryInterval,?reloaders...);?err?!=?nil?{level.Error(logger).Log("msg",?"Error?reloading?config",?"err",?err)rc?<-?err}?else?{rc?<-?nil}

| 指標(biāo)抓取和存儲(chǔ)

Prometheus 對(duì)指標(biāo)的抓取采取主動(dòng) Pull 的方式,即周期性的請(qǐng)求被監(jiān)控服務(wù)暴露的 metrics 接口或者是 PushGateway,從而獲取到 Metrics 指標(biāo),默認(rèn)時(shí)間是 15s 抓取一次。

配置項(xiàng)如下:

global:scrape_interval:?15s

抓取到的指標(biāo)會(huì)被以時(shí)間序列的形式保存在內(nèi)存中,并且定時(shí)刷到磁盤上,默認(rèn)是兩個(gè)小時(shí)回刷一次。

并且為了防止 Prometheus 發(fā)生崩潰或重啟時(shí)能夠恢復(fù)數(shù)據(jù),Prometheus 也提供了類似 MySQL 中 binlog 一樣的預(yù)寫日志,當(dāng) Prometheus 崩潰重啟時(shí),會(huì)讀這個(gè)預(yù)寫日志來(lái)恢復(fù)數(shù)據(jù)。

Metric 指標(biāo)

| 數(shù)據(jù)模型

Prometheus 采集的所有指標(biāo)都是以時(shí)間序列的形式進(jìn)行存儲(chǔ),每一個(gè)時(shí)間序列有三部分組成:

  • 指標(biāo)名和指標(biāo)標(biāo)簽集合:metric_name{<label1=v1>,<label2=v2>....},指標(biāo)名:表示這個(gè)指標(biāo)是監(jiān)控哪一方面的狀態(tài),比如 http_request_total 表示:請(qǐng)求數(shù)量;指標(biāo)標(biāo)簽,描述這個(gè)指標(biāo)有哪些維度,比如 http_request_total 這個(gè)指標(biāo),有請(qǐng)求狀態(tài)碼 code= 200/400/500,請(qǐng)求方式:method=get/post 等,實(shí)際上指標(biāo)名稱實(shí)際上是以標(biāo)簽的形式保存,這個(gè)標(biāo)簽是 name,即:name=。

  • 時(shí)間戳:描述當(dāng)前時(shí)間序列的時(shí)間,單位:毫秒。

  • 樣本值:當(dāng)前監(jiān)控指標(biāo)的具體數(shù)值,比如 http_request_total 的值就是請(qǐng)求數(shù)是多少。

可以通過查看 Prometheus 的 metrics 接口查看所有上報(bào)的指標(biāo):

所有的指標(biāo)也都是通過如下所示的格式來(lái)標(biāo)識(shí)的:

# HELP ???// HELP:這里描述的指標(biāo)的信息,表示這個(gè)是一個(gè)什么指標(biāo),統(tǒng)計(jì)什么的 # TYPE ???// TYPE:這個(gè)指標(biāo)是什么類型的 <metric?name>{<label?name>=<label?value>,?...}??value????//?指標(biāo)的具體格式,<指標(biāo)名>{標(biāo)簽集合}?指標(biāo)值

| 指標(biāo)類型

Prometheus 底層存儲(chǔ)上其實(shí)并沒有對(duì)指標(biāo)做類型的區(qū)分,都是以時(shí)間序列的形式存儲(chǔ)。

但是為了方便用戶的使用和理解不同監(jiān)控指標(biāo)之間的差異,Prometheus 定義了 4 種不同的指標(biāo)類型:計(jì)數(shù)器 counter,儀表盤 gauge,直方圖 histogram,摘要 summary。

Counter 計(jì)數(shù)器:Counter 類型和 redis 的自增命令一樣,只增不減,通過 Counter 指標(biāo)可以統(tǒng)計(jì) Http 請(qǐng)求數(shù)量,請(qǐng)求錯(cuò)誤數(shù),接口調(diào)用次數(shù)等單調(diào)遞增的數(shù)據(jù)。

同時(shí)可以結(jié)合 increase 和 rate 等函數(shù)統(tǒng)計(jì)變化速率,后續(xù)我們會(huì)提到這些內(nèi)置函數(shù)。

Gauge 儀表盤:和 Counter 不同,Gauge 是可增可減的,可以反映一些動(dòng)態(tài)變化的數(shù)據(jù)。

例如當(dāng)前內(nèi)存占用,CPU 利用,Gc 次數(shù)等動(dòng)態(tài)可上升可下降的數(shù)據(jù),在 Prometheus 上通過 Gauge,可以不用經(jīng)過內(nèi)置函數(shù)直觀的反映數(shù)據(jù)的變化情況。

如下圖表示堆可分配的空間大小:

上面兩種是數(shù)值指標(biāo),代表數(shù)據(jù)的變化情況,Histogram 和 Summary 是統(tǒng)計(jì)類型的指標(biāo),表示數(shù)據(jù)的分布情況。

Histogram 直方圖:Histogram 是一種直方圖類型,可以觀察到指標(biāo)在各個(gè)不同的區(qū)間范圍的分布情況。

如下圖所示:可以觀察到請(qǐng)求耗時(shí)在各個(gè)桶的分布。

有一點(diǎn)要注意的是,Histogram 是累計(jì)直方圖,即每一個(gè)桶的是只有上區(qū)間,例如下圖表示小于 0.1 毫秒(le=“0.1”)的請(qǐng)求數(shù)量是 18173 個(gè),小于 0.2 毫秒(le=“0.2”)的請(qǐng)求是 18182 個(gè)。

在le=“0.2”這個(gè)桶中是包含了 le=“0.1”這個(gè)桶的數(shù)據(jù),如果我們要拿到 0.1 毫秒到 0.2 毫秒的請(qǐng)求數(shù)量,可以通過兩個(gè)桶想減得到。

在直方圖中,還可以通過 histogram_quantile 函數(shù)求出百分位數(shù),比如 P50,P90,P99 等數(shù)據(jù)。

Summary 摘要:Summary 也是用來(lái)做統(tǒng)計(jì)分析的,和 Histogram 區(qū)別在于,Summary 直接存儲(chǔ)的就是百分位數(shù)。

如下所示:可以直觀的觀察到樣本的中位數(shù),P90 和 P99。

Summary 的百分位數(shù)是客戶端計(jì)算好直接讓 Prometheus 抓取的,不需要 Prometheus 計(jì)算,直方圖是通過內(nèi)置函數(shù) histogram_quantile 在 Prometheus 服務(wù)端計(jì)算求出。

| 指標(biāo)導(dǎo)出

指標(biāo)導(dǎo)出有兩種方式,一種是使用 Prometheus 社區(qū)提供的定制好的 Exporter 對(duì)一些組件諸如 MySQL,Kafka 等的指標(biāo)作導(dǎo)出,也可以利用社區(qū)提供的 Client 來(lái)自定義指標(biāo)導(dǎo)出。

github.com/prometheus/client_golang/prometheus/promhttp

自定義 Prometheus exporter:

package?mainimport?("net/http""github.com/prometheus/client_golang/prometheus/promhttp" )func?main()??{http.Handle("/metrics",?promhttp.Handler())http.ListenAndServe(":8080",?nil) }

訪問:http://localhost:8080/metrics,即可看到導(dǎo)出的指標(biāo),這里我們沒有自定義任何的指標(biāo),但是能看到一些內(nèi)置的 Go 的運(yùn)行時(shí)指標(biāo)和 promhttp 相關(guān)的指標(biāo)。

這個(gè) Client 默認(rèn)為我們暴露的指標(biāo),go_:以 go_ 為前綴的指標(biāo)是關(guān)于 Go 運(yùn)行時(shí)相關(guān)的指標(biāo),比如垃圾回收時(shí)間、goroutine 數(shù)量等,這些都是 Go 客戶端庫(kù)特有的,其他語(yǔ)言的客戶端庫(kù)可能會(huì)暴露各自語(yǔ)言的其他運(yùn)行時(shí)指標(biāo)。

promhttp_:來(lái)自 promhttp 工具包的相關(guān)指標(biāo),用于跟蹤對(duì)指標(biāo)請(qǐng)求的處理。

添加自定義指標(biāo):

package?mainimport?("net/http""github.com/prometheus/client_golang/prometheus""github.com/prometheus/client_golang/prometheus/promhttp" )func?main()?{//?1.定義指標(biāo)(類型,名字,幫助信息)myCounter?:=?prometheus.NewCounter(prometheus.CounterOpts{Name:?"my_counter_total",Help:?"自定義counter",})//?2.注冊(cè)指標(biāo)prometheus.MustRegister(myCounter)//?3.設(shè)置指標(biāo)值myCounter.Add(23)http.Handle("/metrics",?promhttp.Handler())http.ListenAndServe(":8080",?nil) }

運(yùn)行:

模擬下在業(yè)務(wù)中上報(bào)接口請(qǐng)求量:

package?mainimport?("fmt""net/http""github.com/prometheus/client_golang/prometheus" )var?(MyCounter?prometheus.Counter )//?init?注冊(cè)指標(biāo) func?init()?{//?1.定義指標(biāo)(類型,名字,幫助信息)MyCounter?=?prometheus.NewCounter(prometheus.CounterOpts{Name:?"my_counter_total",Help:?"自定義counter",})//?2.注冊(cè)指標(biāo)prometheus.MustRegister(MyCounter) }//?Sayhello func?Sayhello(w?http.ResponseWriter,?r?*http.Request)?{//?接口請(qǐng)求量遞增MyCounter.Inc()fmt.Fprintf(w,?"Hello?Wrold!") }

main.go:

package?mainimport?("net/http""github.com/prometheus/client_golang/prometheus/promhttp" )func?main()?{http.Handle("/metrics",?promhttp.Handler())http.HandleFunc("/counter",Sayhello)http.ListenAndServe(":8080",?nil) }

一開始啟動(dòng)時(shí),指標(biāo) counter 是 0:

調(diào)用:/counter 接口后,指標(biāo)數(shù)據(jù)發(fā)生了變化,這樣就可以簡(jiǎn)單實(shí)現(xiàn)了接口請(qǐng)求數(shù)的統(tǒng)計(jì):

對(duì)于其他指標(biāo)定義方式是一樣的:

var?(MyCounter?prometheus.CounterMyGauge?prometheus.GaugeMyHistogram?prometheus.HistogramMySummary?prometheus.Summary )//?init?注冊(cè)指標(biāo) func?init()?{//?1.定義指標(biāo)(類型,名字,幫助信息)MyCounter?=?prometheus.NewCounter(prometheus.CounterOpts{Name:?"my_counter_total",Help:?"自定義counter",})//?定義gauge類型指標(biāo)MyGauge?=?prometheus.NewGauge(prometheus.GaugeOpts{Name:?"my_gauge_num",Help:?"自定義gauge",})//?定義histogramMyHistogram?=?prometheus.NewHistogram(prometheus.HistogramOpts{Name:?"my_histogram_bucket",Help:?"自定義histogram",Buckets:?[]float64{0.1,0.2,0.3,0.4,0.5},???//?需要指定桶})//?定義SummaryMySummary?=?prometheus.NewSummary(prometheus.SummaryOpts{Name:?"my_summary_bucket",Help:?"自定義summary",//?這部分可以算好后在setObjectives:?map[float64]float64{0.5:?0.05,0.9:?0.01,???0.99:?0.001,?},})//?2.注冊(cè)指標(biāo)prometheus.MustRegister(MyCounter)prometheus.MustRegister(MyGauge)prometheus.MustRegister(MyHistogram)prometheus.MustRegister(MySummary) }

上面的指標(biāo)都是沒有設(shè)置標(biāo)簽的,我們一般的指標(biāo)都是帶有標(biāo)簽的,如何設(shè)置指標(biāo)的標(biāo)簽?zāi)?#xff1f;

如果我要設(shè)置帶標(biāo)簽的 counter 類型指標(biāo),只需要將原來(lái)的 NewCounter 方法替換為 NewCounterVec 方法即可,并且傳入標(biāo)簽集合。

MyCounter?*prometheus.CounterVec //?1.定義指標(biāo)(類型,名字,幫助信息) MyCounter?=?prometheus.NewCounterVec(prometheus.CounterOpts{Name:?"my_counter_total",Help:?"自定義counter",},//?標(biāo)簽集合[]string{"label1","label2"}, ) //?帶標(biāo)簽的set指標(biāo)值 MyCounter.With(prometheus.Labels{"label1":"1","label2":"2"}).Inc()

其他同理。

PromQL

剛剛提到了 Prometheus 中指標(biāo)有哪些類型以及如何導(dǎo)出我們的指標(biāo),現(xiàn)在指標(biāo)導(dǎo)出到 Prometheus 了,利用其提供的 PromQL 可以查詢我們導(dǎo)出的指標(biāo)。

PromQL 是 Prometheus 為我們提供的函數(shù)式的查詢語(yǔ)言,查詢表達(dá)式有四種類型:

  • 字符串:只作為某些內(nèi)置函數(shù)的參數(shù)出現(xiàn)

  • 標(biāo)量:單一的數(shù)字值,可以是函數(shù)參數(shù),也可以是函數(shù)的返回結(jié)果

  • 瞬時(shí)向量:某一時(shí)刻的時(shí)序數(shù)據(jù)

  • 區(qū)間向量:某一時(shí)間區(qū)間內(nèi)的時(shí)序數(shù)據(jù)集合

| 瞬時(shí)查詢

直接通過指標(biāo)名即可進(jìn)行查詢,查詢結(jié)果是當(dāng)前指標(biāo)最新的時(shí)間序列,比如查詢 Gc 累積消耗的時(shí)間:

go_gc_duration_seconds_count

我們可以看到查詢出來(lái)有多個(gè)同名指標(biāo)結(jié)果 可以用{}做標(biāo)簽過濾查詢:比如我們想查指定實(shí)例的指標(biāo)。

go_gc_duration_seconds_count{instance="127.0.0.1:9600"}

而且也支持則表達(dá)式,通過 =~ 指定正則表達(dá)式,如下所示:查詢所有 instance 是 localhost 開頭的指標(biāo)。

go_gc_duration_seconds_count{instance=~"localhost.*"}

| 范圍查詢

范圍查詢的結(jié)果集就是區(qū)間向量,可以通過[]指定時(shí)間來(lái)做范圍查詢,查詢 5 分鐘內(nèi)的 Gc 累積消耗時(shí)間:

go_gc_duration_seconds_count{}[5m]

注意:這里范圍查詢第一個(gè)點(diǎn)并不一定精確到剛剛好 5 分鐘前的那個(gè)時(shí)序樣本點(diǎn),他是以 5 分鐘作為一個(gè)區(qū)間,尋找這個(gè)區(qū)間的第一個(gè)點(diǎn)到最后一個(gè)樣本點(diǎn)。

時(shí)間單位:

d:天,h:小時(shí),m:分鐘,ms:毫秒,s:秒,w:周,y:年。

同樣支持類似 SQL 中的 offset 查詢,如下:查詢一天前當(dāng)前 5 分鐘前的時(shí)序數(shù)據(jù)集。

go_gc_duration_seconds_count{}[5m]?offset?1d

| 內(nèi)置函數(shù)

Prometheus 內(nèi)置了很多函數(shù),這里主要記錄下常用的幾個(gè)函數(shù)的使用:?

rate 和 irate 函數(shù):rate 函數(shù)可以用來(lái)求指標(biāo)的平均變化速率。

rate函數(shù)=時(shí)間區(qū)間前后兩個(gè)點(diǎn)的差?/?時(shí)間范圍

一般 rate 函數(shù)可以用來(lái)求某個(gè)時(shí)間區(qū)間內(nèi)的請(qǐng)求速率,也就是我們常說(shuō)的 QPS。

但是 rate 函數(shù)只是算出來(lái)了某個(gè)時(shí)間區(qū)間內(nèi)的平均速率,沒辦法反映突發(fā)變化,假設(shè)在一分鐘的時(shí)間區(qū)間里,前 50 秒的請(qǐng)求量都是 0 到 10 左右,但是最后 10 秒的請(qǐng)求量暴增到 100 以上,這時(shí)候算出來(lái)的值可能無(wú)法很好的反映這個(gè)峰值變化。

這個(gè)問題可以通過 irate 函數(shù)解決,irate 函數(shù)求出來(lái)的就是瞬時(shí)變化率。

時(shí)間區(qū)間內(nèi)最后兩個(gè)樣本點(diǎn)的差?/?最后兩個(gè)樣本點(diǎn)的時(shí)間差

可以通過圖像看下兩者的區(qū)別:irate 函數(shù)的圖像峰值變化大,rate 函數(shù)變化較為平緩。

rate 函數(shù):

irate 函數(shù):

聚合函數(shù):Sum() by() without()

也是上邊的例子,我們?cè)谇笾付ń涌诘?QPS 的時(shí)候,可能會(huì)出現(xiàn)多個(gè)實(shí)例的 QPS 的計(jì)算結(jié)果,如下是存在多個(gè)接口,三個(gè)服務(wù)的 QPS。

rate(demo_api_request_duration_seconds_count{job="demo",?method="GET",?status="200"}[5m])

利用 sum 函數(shù)可以將三個(gè) QPS 聚合,即可得到整個(gè)服務(wù)該接口的 QPS:其實(shí) Sum 就是將指標(biāo)值做相加。

但是這樣直接的相加太籠統(tǒng)抽象了,可以配合 by 和 without 函數(shù)在 sum 的時(shí)候,基于某些標(biāo)簽分組,類似 SQL 中的 group by。

例如,我可以根據(jù)請(qǐng)求接口標(biāo)簽分組:這樣拿到的就是具體接口的 QPS:

sum(rate(demo_api_request_duration_seconds_count{job="demo",?method="GET",?status="200"}[5m]))?by(path)

也可以不根據(jù)接口路徑分組:通過 without 指定。

sum(rate(demo_api_request_duration_seconds_count{job="demo",?method="GET",?status="200"}[5m]))?without(path)

可以通過 histogram_quantile 函數(shù)做數(shù)據(jù)統(tǒng)計(jì):可以用來(lái)統(tǒng)計(jì)百分位數(shù):第一個(gè)參數(shù)是百分位,第二個(gè) histogram 指標(biāo),這樣計(jì)算出來(lái)的就是中位數(shù),即 P50。

histogram_quantile(0.5,go_gc_pauses_seconds_total_bucket)

分享之前和同事一起發(fā)現(xiàn)的坑:在剛剛寫的自定義 exporter 上新增幾個(gè) histogram 的樣本點(diǎn)。

MyHistogram.Observe(0.3) MyHistogram.Observe(0.4) MyHistogram.Observe(0.5)

histogram 的桶設(shè)置:

MyHistogram?=?prometheus.NewHistogram(prometheus.HistogramOpts{Name:?"my_histogram_bucket",Help:?"自定義histogram",Buckets:?[]float64{0,2.5,5,7.5,10},????//?需要指定桶 })

如果這樣的話,所有指標(biāo)都會(huì)直接進(jìn)入到第一個(gè)桶,即 0 到 2.5 這個(gè)桶,如果我要計(jì)算中位數(shù),那么這個(gè)中位數(shù)按照數(shù)學(xué)公式來(lái)算的話,肯定是在 0 到 2 之間的,而且肯定是 0.3 到 0.5 之間。

我用 histogram_quantile 函數(shù)計(jì)算下:計(jì)算結(jié)果是 1.25,其實(shí)已經(jīng)不對(duì)了。

histogram_quantile(0.5,my_histogram_bucket_bucket)

我在計(jì)算下 P99,等于 2.475:

histogram_quantile(0.99,my_histogram_bucket_bucket)

我的指標(biāo)都是不大于 1 的,為啥算出來(lái)的 P50 和 P99 都這么離譜呢?

這是因?yàn)?Prometheus 他是不保存你具體的指標(biāo)數(shù)值的,他會(huì)幫你把指標(biāo)放到具體的桶,但是他不會(huì)保存你指標(biāo)的值,計(jì)算的分位數(shù)是一個(gè)預(yù)估的值,怎么預(yù)估呢?

就是假設(shè)每個(gè)桶內(nèi)的樣本分布是均勻的,線性分布來(lái)計(jì)算的,比如剛剛的 P50,其實(shí)就是算排在第 50% 位置的樣本值。

因?yàn)閯倓偹械臄?shù)據(jù)都落在了第一個(gè)桶,那么他在計(jì)算的時(shí)候就會(huì)假定這個(gè) 50% 值在第一個(gè)桶的中點(diǎn),他就會(huì)假定這個(gè)數(shù)就是 0.5_ 2.5,P99 就是第一個(gè)桶的 99% 的位置,他就會(huì)假定這個(gè)數(shù)就是 0.99 _ 2.5。

導(dǎo)致這個(gè)誤差較大的原因就是我們的 bucket 設(shè)置的不合理。

重新定義桶:

//?定義histogram MyHistogram?=?prometheus.NewHistogram(prometheus.HistogramOpts{Name:?"my_histogram_bucket",Help:?"自定義histogram",Buckets:?[]float64{0.1,0.2,0.3,0.4,0.5},???//?需要指定桶 })

上報(bào)數(shù)據(jù):

MyHistogram.Observe(0.1) MyHistogram.Observe(0.3) MyHistogram.Observe(0.4)

重新計(jì)算 P50,P99:

桶設(shè)置的越合理,計(jì)算的誤差越小。

Grafana 可視化

除了可以利用 Prometheus 提供的 webUI 可視化我們的指標(biāo)外,還可以接入 Grafana 來(lái)做指標(biāo)的可視化。

第一步,對(duì)接數(shù)據(jù)源。

配置好 prometheus 的地址:

第二步:創(chuàng)建儀表盤。

編輯儀表盤:

在 metrics 處編寫 PromQL 即可完成查詢和可視化:

儀表盤編輯完后,可以導(dǎo)出對(duì)應(yīng)的 json 文件,方便下次導(dǎo)入同樣的儀表盤:

以上是我之前搭建的儀表盤:

監(jiān)控告警

AlertManager 是 prometheus 提供的告警信息下發(fā)組件,包含了對(duì)告警信息的分組,下發(fā),靜默等策略。

配置完成后可以在 webui 上看到對(duì)應(yīng)的告警策略信息。告警規(guī)則也是基于 PromQL 進(jìn)行定制的。

編寫告警配置:當(dāng) Http_srv 這個(gè)服務(wù)掛了,Prometheus 采集不到指標(biāo),并且持續(xù)時(shí)間 1 分鐘,就會(huì)觸發(fā)告警。

groups: -?name:?simulator-alert-rulerules:-?alert:?HttpSimulatorDownexpr:?sum(up{job="http_srv"})?==?0?for:?1mlabels:severity:?critical

在 prometheus.yml 中配置告警配置文件,需要配置上 alertmanager 的地址和告警文件的地址。

#?Alertmanager?configuration alerting:alertmanagers:-?static_configs:-?targets:?['localhost:9093'] #?Load?rules?once?and?periodically?evaluate?them?according?to?the?global?'evaluation_interval'. rule_files:-?"alert_rules.yml"#-?"first_rules.yml"

配置告警信息,例如告警發(fā)送地址,告警內(nèi)容模版,分組策略等都在 alertmanager 的配置文件中配置。

global:smtp_smarthost:?'smtp.qq.com:465'smtp_from:?'xxxx@qq.com'smtp_auth_username:?'xxxx@qq.com'smtp_auth_password:?'xxxx'smtp_require_tls:?falseroute:group_interval:?1mrepeat_interval:?1mreceiver:?'mail-receiver'#??group_by?????????????//采用哪個(gè)標(biāo)簽作為分組 #??group_wait???????????//分組等待的時(shí)間,收到報(bào)警不是立馬發(fā)送出去,而是等待一段時(shí)間,看看同一組中是否有其他報(bào)警,如果有一并發(fā)送 #??group_interval???????//告警時(shí)間間隔 #??repeat_interval??????//重復(fù)告警時(shí)間間隔,可以減少發(fā)送告警的頻率 #??receiver?????????????//接收者是誰(shuí) #??routes???????????????//子路由配置 receivers: -?name:?'mail-receiver'email_configs:-?to:?'xxxx@qq.com'

當(dāng)我 kill 進(jìn)程:

prometheus 已經(jīng)觸發(fā)告警:

在等待 1 分鐘,如果持續(xù)還是符合告警策略,則狀態(tài)為從 pending 變?yōu)?FIRING 會(huì)發(fā)送郵件到我的郵箱。

此時(shí)我的郵箱收到了一條告警消息:

alertmanager 也支持對(duì)告警進(jìn)行靜默,在 alertmanager 的 WEBUI 中配置即可:

間隔了 4 分鐘,沒有收到告警,靜默生效:

一個(gè)小時(shí)沒有收到告警信息:

強(qiáng)勢(shì)開源一款小程序! 2021-11-07 強(qiáng)力推薦一個(gè)完善的物流(WMS)管理項(xiàng)目(附代碼) 2021-10-23 推薦一個(gè) Spring Boot + MyBatis + Vue 音樂網(wǎng)站 2021-10-19 分享一套家庭理財(cái)系統(tǒng)(附源碼) 2021-09-20 推薦一個(gè)互聯(lián)網(wǎng)企業(yè)級(jí)別的開源支付系統(tǒng) 2021-09-04 推薦一套開源通用后臺(tái)管理系統(tǒng)(附源碼) 2021-08-21 一款神仙接私活兒軟件,吊到不行! 2021-07-31 基于 SpringBoot 的仿豆瓣平臺(tái)【源碼分享】 2021-07-18 干掉 Wordpress!這個(gè)開源建站神器有點(diǎn)吊! 2021-06-18 從朋友那里搞了 20 個(gè)實(shí)戰(zhàn)項(xiàng)目,速領(lǐng)! 2021-06-12


如有收獲,點(diǎn)個(gè)在看,誠(chéng)摯感謝

總結(jié)

以上是生活随笔為你收集整理的监控神器Prometheus,开箱即用!的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。

人人澡视频 | 99精品国产免费久久久久久下载 | 99热99 | 亚洲一级二级 | 日韩成人免费在线 | 色婷婷狠狠五月综合天色拍 | 欧美一级片在线免费观看 | 永久免费在线 | 欧美日韩高清一区 | 欧美成人手机版 | 久草在线资源观看 | 成人av在线直播 | 国产成人精品在线 | 狠狠黄| 国产精品精 | 国产97视频| 亚洲国产精品久久久久久 | 国产91国语对白在线 | 911亚洲精品第一 | 国产精品久久久久久久久久久杏吧 | 天天操夜夜操国产精品 | 日韩电影在线一区二区 | 99中文字幕视频 | 久久婷婷综合激情 | 色婷婷综合视频在线观看 | 在线之家免费在线观看电影 | 日韩国产高清在线 | 激情婷婷网 | 天天综合成人 | 亚洲va欧美| 91亚洲视频在线观看 | 亚洲精品黄色在线观看 | 99精品热| av观看在线观看 | 亚洲更新最快 | 成人cosplay福利网站 | 一区二区三区日韩在线 | 久久久久久国产精品亚洲78 | 日韩系列在线观看 | 天天插日日插 | 国产精品99久久久久久小说 | 国产精品人成电影在线观看 | 久久99免费视频 | 97在线超碰 | 免费看国产黄色 | 在线中文字幕电影 | 国产精品高 | 日韩免费在线视频观看 | 欧美日韩免费视频 | 国产亚洲精品久久久久久网站 | 国产成人在线播放 | 色视频在线免费 | 国产精品久久99综合免费观看尤物 | 五月天色站 | 国产午夜精品视频 | 日韩免费在线网站 | 99热播精品| 免费视频91 | 中文字幕视频免费观看 | 99精品国产在热久久下载 | 亚洲精品视频在线观看免费视频 | 西西www4444大胆在线 | 久久9999久久免费精品国产 | 亚洲综合网 | 亚洲国产日韩一区 | 涩涩资源网 | 欧美成人视 | 韩国av免费在线观看 | 欧美成人日韩 | 久久久久欠精品国产毛片国产毛生 | 97香蕉超级碰碰久久免费软件 | 婷婷香蕉 | 人人干人人爽 | 久草在线免费播放 | 麻豆视频一区二区 | 少妇bbw搡bbbb搡bbbb | 激情五月婷婷激情 | 亚洲干视频在线观看 | 日韩精品亚洲专区在线观看 | 91系列在线| 国产 欧美 日本 | 日韩精品一区二区三区免费观看视频 | 国产麻豆电影在线观看 | 中国精品少妇 | 在线免费观看黄色大片 | 99精品视频中文字幕 | 综合色天天 | www.久久色 | 久久精品久久99精品久久 | 久久中文字幕导航 | 大胆欧美gogo免费视频一二区 | 国色天香在线 | 探花视频在线观看+在线播放 | 国产高清一区二区 | 色就色,综合激情 | 97人人精品 | www.久久久com | 狠狠干婷婷色 | 啪啪免费视频网站 | 久久视频热| 国产精品久久久久久久久久久久 | 91视频免费 | 国产成人久久av免费高清密臂 | 欧美日韩国产一区二区在线观看 | 欧美极品xxx | 69国产成人综合久久精品欧美 | 欧美淫视频 | 天天爱av导航 | 日韩在线视频网 | 成人午夜久久 | 日韩欧美网址 | 欧美午夜一区二区福利视频 | 99视| 欧美激情综合色 | 日本天天色 | 国产精品久久久久久久久久三级 | 午夜 在线 | 中文字幕中文字幕在线中文字幕三区 | 亚洲综合涩 | 在线成人中文字幕 | 国产精品一区二区三区久久久 | 国产丝袜 | av中文在线观看 | 成x99人av在线www | 国产91影院 | 国产精品自在线 | 日韩在线免费电影 | 亚洲情影院 | 2023天天干 | 欧美在线99| 成人精品视频 | 最近免费中文字幕mv在线视频3 | 亚洲视频六区 | 亚洲美女视频在线观看 | 免费日韩 精品中文字幕视频在线 | 黄毛片在线观看 | 色综合天天天天做夜夜夜夜做 | 国产免费黄视频在线观看 | 欧美日韩一区三区 | 爱射综合 | 国产探花视频在线播放 | 日韩试看| 免费一级片在线 | 日日夜夜免费精品 | 免费色网站| 中文超碰字幕 | 日批视频在线观看免费 | 日韩中文字幕免费在线观看 | 精品久久久久久一区二区里番 | 久久精品成人热国产成 | 亚洲国产精品久久久久婷婷884 | 狠狠操夜夜操 | 国产在线精品播放 | 日韩免 | 人成在线免费视频 | 精品在线亚洲视频 | 欧美国产精品一区二区 | 天天做天天爱天天综合网 | 夜夜躁日日躁狠狠躁 | 在线视频欧美日韩 | se视频网址 | 九九热免费视频在线观看 | 九九免费观看全部免费视频 | 欧美乱淫视频 | 91高清一区| 成人午夜片av在线看 | 狠狠干夜夜操 | 91av在线免费 | 中文字幕视频网站 | 少妇自拍av| 天天鲁天天干天天射 | 日日夜夜操av | 亚洲综合一区二区精品导航 | 欧美一级片免费播放 | 精品麻豆入口免费 | 黄色在线网站噜噜噜 | 久久午夜精品视频 | 亚洲精品在线电影 | 成人午夜黄色 | 激情综合网五月婷婷 | 日韩乱码在线 | 特级西西人体444是什么意思 | 国产小视频免费观看 | 亚洲精品中文字幕在线 | 久久精品直播 | 国产视频第二页 | 黄色av影院 | 国产啊v在线 | 超碰免费av | 日日夜夜网站 | 美女av免费看 | 欧美日韩国产一区二区三区在线观看 | 在线激情电影 | 999久久久国产精品 高清av免费观看 | 中文字幕视频免费观看 | 久久成年人| 成人免费看黄 | www.夜夜操| 黄色的网站免费看 | 亚洲黄色一级大片 | 久久久96| 五月综合婷 | 天天色欧美 | 国产精品乱码久久 | 狠狠网亚洲精品 | 玖玖玖在线 | 超碰久热 | 成人av.com | 丁香视频五月 | 在线小视频国产 | 精品国产一区二区三区四 | 亚洲美女免费精品视频在线观看 | 天天操天天操天天操天天操天天操天天操 | 久久人人爽人人人人片 | 亚洲综合精品视频 | 99视频久| 在线观看黄色免费视频 | 伊人热| 狠狠色狠狠综合久久 | 国产精品久久久久久久久久久久午夜片 | 激情五月婷婷综合 | 人人添人人澡人人澡人人人爽 | 超碰97av在线 | 欧美一级久久久 | 丁香六月av| 亚洲欧美va | 日日夜夜狠狠干 | 天天久久夜夜 | 久久免费视频3 | 国产黄大片 | 91精品啪| 日韩成年视频 | 午夜国产一区 | 国产高清久久 | 色综合久久精品 | 日韩精品免费一区二区三区 | 综合网成人 | 日韩在线视频一区二区三区 | 亚洲免费精品视频 | 九九免费在线观看视频 | 国产久草在线观看 | 免费亚洲视频在线观看 | 日本中文字幕在线视频 | 天天干 夜夜操 | 51久久夜色精品国产麻豆 | 国产视频久久久 | 蜜臀久久99精品久久久久久网站 | 国产精品视频不卡 | 精品美女在线观看 | 人成电影网 | 免费在线激情电影 | 色综合久久久久综合99 | 超碰在线91| 日韩免费不卡视频 | 青青草久草在线 | 久久久精品欧美一区二区免费 | 丝袜一区在线 | 麻豆视频在线看 | 夜夜操综合网 | 久久亚洲精品国产亚洲老地址 | 精品久久久久久久久久久久久久久久久久 | 亚洲闷骚少妇在线观看网站 | 夜色.com| 香蕉精品视频在线观看 | 最新av网站在线观看 | 不卡中文字幕av | 精品女同一区二区三区在线观看 | 亚洲精品免费视频 | 五月开心色 | www.色午夜 | 97超碰人人澡 | 麻豆国产露脸在线观看 | 五月婷婷在线综合 | 日韩在线观看一区二区 | 精品一二三区视频 | 蜜桃视频日本 | 91在线看 | 久久99精品久久久久婷婷 | 黄色小说网站在线 | 国产精品专区一 | 免费观看十分钟 | 日韩免费视频 | 国产精品99久久免费观看 | 91精品啪啪 | 九九热在线视频免费观看 | 亚洲天堂自拍视频 | 亚洲精品视频国产 | 亚洲精品综合一二三区在线观看 | 久久99九九99精品 | 欧美日韩视频精品 | 天天干天天干 | 97在线看片 | 男女靠逼app | 91桃色国产在线播放 | 丁香五月亚洲综合在线 | 免费三级黄色片 | 成片免费观看视频999 | 美女视频国产 | 综合激情久久 | 亚洲精品啊啊啊 | 成人影视免费看 | 在线久久 | 久久丁香 | 欧美一级日韩三级 | 色婷婷激情网 | 九九热免费视频在线观看 | 999国内精品永久免费视频 | 中文字幕高清免费日韩视频在线 | a级成人毛片 | 日韩欧美久久 | 99久久精品久久久久久动态片 | 91看片淫黄大片一级在线观看 | 精品久久久久久久久久久久久久久久久久 | 18国产精品白浆在线观看免费 | 日批在线看 | 久久午夜网 | 国产91免费观看 | 久久久视频在线 | 色综合久久综合 | 九九电影在线 | 黄www在线观看 | 91高清一区 | 国产精品毛片久久久久久久久久99999999 | 日韩av高清 | 狠狠狠综合 | 在线看日韩 | 国产原创在线观看 | 欧美成人va| 九九视频精品在线 | 99re久久资源最新地址 | 国产福利一区二区在线 | 亚洲二区精品 | 国产精品毛片一区二区 | 国产精品亚洲视频 | 亚洲蜜桃在线 | 亚洲国产精品女人久久久 | 九九精品视频在线 | 天天狠狠操| 在线精品视频免费观看 | 免费a视频在线观看 | 日韩影视精品 | 国精产品999国精产品视频 | 国产精品第52页 | 在线观看视频中文字幕 | 狠狠色丁香婷婷综合久小说久 | 色婷婷亚洲婷婷 | 欧美精品在线观看免费 | 91av视频 | 奇米导航 | 久草在线国产 | 日韩在线观看中文字幕 | 国产亚洲精品电影 | 色悠悠久久综合 | 日韩 在线a | 九九精品无码 | 亚洲精品久久久蜜臀下载官网 | 国产一二三四在线视频 | 在线看国产精品 | 黄色av三级在线 | 欧美人交a欧美精品 | 中文字幕中文中文字幕 | 免费日韩 精品中文字幕视频在线 | 黄色影院在线免费观看 | 日韩av在线看 | 99性视频 | 日韩av免费网站 | 五月婷婷在线观看 | 日韩一级片大全 | 国产精品亚洲a | 久久精品2 | 女人18精品一区二区三区 | 久久精品美女视频网站 | 亚洲天天综合 | 亚洲 欧美 综合 在线 精品 | 欧美色就是色 | 黄色小说免费在线观看 | 一区二区不卡 | 96超碰在线 | 亚洲成人午夜在线 | 欧美伦理一区 | 国内精品久久久久久久影视麻豆 | 99视频精品全部免费 在线 | 国产97在线播放 | 亚洲成av人片 | 99这里都是精品 | 高清不卡一区二区三区 | 欧美特一级 | 日韩欧美一区视频 | 三级黄色大片在线观看 | 亚洲黄色在线免费观看 | 欧美一级黄大片 | 四虎永久精品在线 | 99riav1国产精品视频 | 91网站观看 | 亚洲国产精品女人久久久 | 九色精品免费永久在线 | 国产亚洲一区二区在线观看 | 欧美日韩超碰 | 久久激情视频网 | 亚洲高清国产视频 | 亚洲精品小视频 | 黄色一级在线免费观看 | 91亚洲精品久久久蜜桃借种 | 色停停五月天 | 国产三级国产精品国产专区50 | 国产精品麻豆三级一区视频 | 免费视频网| 日韩理论在线 | 欧美一区二区视频97 | 2021国产精品 | 久久99精品波多结衣一区 | 日日干天天操 | 国产精品中文久久久久久久 | 在线视频一二区 | 欧美极品久久 | 成人教育av | 国产一二三精品 | 在线观看国产麻豆 | 欧美老少交 | 国产亚洲观看 | 免费福利视频导航 | 国产精品一区二区久久精品爱涩 | 亚洲午夜久久久久久久久电影网 | 日本精品视频网站 | 免费看短 | 欧美日韩高清在线观看 | 亚洲欧美va | 国产爽视频 | 欧美亚洲国产精品久久高清浪潮 | 中文字幕在线观看三区 | 亚洲一级理论片 | 久久久久久久久黄色 | 中文在线中文资源 | 中文字幕一区二区三区四区 | 国产精品18久久久久久久久 | 久久,天天综合 | 久久久国产一区二区三区 | 婷婷网在线| 国产亚洲成人网 | 最新真实国产在线视频 | 在线91色| 国产高清一级 | 日免费视频 | 91成年人网站 | 91亚洲狠狠婷婷综合久久久 | 久久一线| 开心激情网五月天 | 久久99久久精品国产 | 综合激情网... | 国产一区二区播放 | 91人人爱 | 久草网首页 | 久久国产电影 | 99精品免费在线观看 | 免费精品国产va自在自线 | 国产美女免费视频 | 五月激情综合婷婷 | 免费99精品国产自在在线 | 又色又爽的网站 | 国产九色91 | 久久美女免费视频 | 91精品亚洲影视在线观看 | 久久国产精品一区二区三区四区 | 91九色性视频 | 国产精品一区二区av麻豆 | 午夜久久影院 | 特片网久久 | 黄色软件视频网站 | 久久久久久久久久伊人 | 麻豆视频在线看 | 五月天激情婷婷 | 国产明星视频三级a三级点| 日韩在线理论 | 久久综合亚洲鲁鲁五月久久 | 亚洲三级国产 | 亚洲精品在线视频网站 | 一区二区视频在线免费观看 | 亚洲免费精彩视频 | www.久久色| 日韩区欠美精品av视频 | 亚洲精品国偷自产在线91正片 | 国产成人在线综合 | 日本精品一区二区 | 国产高清视频在线播放一区 | 91av在 | 国产精久久久久久妇女av | 久久精品国产成人精品 | 久久免费毛片 | 美女免费网站 | 久久国精品| 蜜臀av网站| 亚洲精品久久视频 | 亚洲精品一区二区久 | 成人午夜网址 | 97色综合| av中文字幕在线观看网站 | 黄色影院在线观看 | 久久的色 | 色www精品视频在线观看 | 国产黄av| 成人av直播| 日本性生活免费看 | 日韩在线一区二区免费 | 日韩精品在线播放 | 日韩精品一区二区三区水蜜桃 | 亚洲日韩欧美一区二区在线 | 粉嫩高清一区二区三区 | 欧美一区二视频在线免费观看 | 国产精品久久久久久久久软件 | 国产亚洲一区二区在线观看 | 超碰在线观看av.com | 99久久精品国产免费看不卡 | 欧美午夜寂寞影院 | 国产精品久久久久久久久久不蜜月 | 日韩久久久久久久 | 欧美精品久久久 | 国产最新91| 丝袜美女视频网站 | 国产无区一区二区三麻豆 | 精品黄色在线 | 中国美女一级看片 | 五月精品 | 亚洲精品乱码久久久久久蜜桃不爽 | 97色资源| 日韩免费电影一区二区三区 | 激情电影影院 | 亚洲国产精品女人久久久 | av免费观看高清 | 99中文在线 | 青草视频免费观看 | 免费视频久久久久 | 精品xxx| www.狠狠插.com | 免费看污污视频的网站 | 麻豆91在线观看 | .国产精品成人自产拍在线观看6 | 色七七亚洲影院 | 亚洲精品视频在线 | 国产成人综合精品 | 九九有精品| av日韩中文 | 亚洲三级黄 | 鲁一鲁影院 | 九九交易行官网 | 亚洲免费一级电影 | 波多野结衣亚洲一区二区 | 免费在线观看不卡av | 天天摸天天舔天天操 | av免费看网站 | 亚洲一区二区精品视频 | 成人一级片在线观看 | 国产一区国产精品 | 日韩欧三级 | 午夜精品一区二区三区四区 | 在线国产激情视频 | 欧美成人播放 | 91亚洲精品国偷拍自产在线观看 | 午夜电影久久久 | 亚洲激情综合 | 天天拍天天色 | 国产黄a三级三级三级三级三级 | 亚洲免费视频在线观看 | 最近免费观看的电影完整版 | 欧美怡红院 | 一区二区三区免费在线观看视频 | 久久天天操| 人操人 | 日日躁你夜夜躁你av蜜 | 91精品国产高清自在线观看 | 日韩视频图片 | 婷婷丁香av | 欧美日韩国产一区二区在线观看 | 日韩色视频在线观看 | 日韩资源在线观看 | 黄色的网站免费看 | 日日碰狠狠躁久久躁综合网 | 免费看短 | 亚洲一级久久 | 91色在线观看视频 | 一区二区三区久久 | 九九热精品视频在线观看 | 中文字幕在线一区二区三区 | 手机版av在线 | 在线视频你懂 | 一级黄色大片在线观看 | 在线一区观看 | 亚洲免费观看视频 | 干干夜夜 | 久久综合网色—综合色88 | 国产成人黄色 | 黄色精品国产 | 国产一级在线观看 | 六月丁香激情综合色啪小说 | 在线看v片| 亚洲精品乱码久久久久久蜜桃91 | 国产午夜精品一区 | 国产精品福利一区 | 日韩精品欧美专区 | 国产精品久久99 | 又黄又爽又刺激 | 久久理论片 | 久久影视网 | 国产在线自 | 国精产品999国精产品视频 | 在线导航福利 | 色偷偷男人的天堂av | av成人在线看 | 色偷偷中文字幕 | 91麻豆精品国产91久久久更新时间 | 伊人六月 | 国产三级视频在线 | 热re99久久精品国产66热 | 欧美激情视频一区二区三区 | 在线国产黄色 | 婷婷av网站 | 日本韩国欧美在线观看 | 久久这里有精品 | 91porny九色91啦中文 | 天天色天天爱天天射综合 | 日韩欧美视频免费在线观看 | 国产高清在线永久 | 97超碰人人澡人人爱学生 | 国产99久久久久久免费看 | 色老板在线 | 久久夜夜操 | 色资源网在线观看 | 中文字幕视频网 | 免费毛片aaaaaa | 日日干 天天干 | 99免费| 国产精品久久久久久久久久久免费 | 国产视频网站在线观看 | 日韩二区三区在线观看 | 国产精品videossex国产高清 | 亚洲传媒在线 | 欧美日韩中文字幕视频 | 99re国产| 色丁香综合 | 久久精品国产精品亚洲 | 99色国产| 国产高清免费在线观看 | 亚洲粉嫩av | 成人精品国产免费网站 | 99精品一区二区 | 99热在线这里只有精品 | 久久精品国产v日韩v亚洲 | 国产伦理精品一区二区 | 欧美色图东方 | 成人免费视频网站 | 黄色在线视频网址 | 少妇bbw撒尿| 狠狠gao | 国产成人精品午夜在线播放 | 国产精品久久久久影院 | 成片免费观看视频大全 | 免费激情网 | 日韩在线观看一区二区 | 亚洲成人资源在线观看 | 亚洲精品高清视频在线观看 | 丁香激情网 | 国产一级免费观看 | 粉嫩aⅴ一区二区三区 | 久久女同性恋中文字幕 | 五月开心激情网 | 日韩免费高清在线 | 国产激情小视频在线观看 | 亚洲精品1234区 | 国产免费视频一区二区裸体 | 四虎永久精品在线 | 毛片精品免费在线观看 | 天天爱天天操天天爽 | 日韩精品一二三 | 久久这里只有精品23 | 国产一区电影在线观看 | 久久精品999 | 999成人国产 | 伊人婷婷久久 | 国产色资源 | 天天综合日日夜夜 | 国产精品免费一区二区三区在线观看 | 中文字幕av免费 | 日韩一区二区三区高清在线观看 | 色播五月婷婷 | 成年人免费在线观看 | 免费在线国产 | 免费看的黄色小视频 | 亚洲一区黄色 | 中中文字幕av | 亚洲精品网站在线 | 亚洲一区二区精品在线 | 久久69精品 | 亚洲欧美视频一区二区三区 | 色婷婷www| av一区二区在线观看中文字幕 | 亚洲国产99| 999久久国产 | 国产三级午夜理伦三级 | 最新av网站在线观看 | 美女精品在线观看 | 亚洲黄色免费在线 | 四虎国产免费 | 国产成人三级三级三级97 | 三级动态视频在线观看 | 99精品视频在线观看播放 | 五月天堂色 | 五月天狠狠操 | 91精品久久香蕉国产线看观看 | 一区二区三区精品久久久 | www久久| 日韩xxxxxxxxx| 免费观看av网站 | 热久久最新地址 | 99精品免费久久久久久日本 | 久久69精品 | 国产第一页福利影院 | 一区二区三区在线影院 | 欧美在线视频一区二区三区 | 天天摸日日摸人人看 | 久久不射电影院 | 亚洲视频精选 | 伊色综合久久之综合久久 | 肉色欧美久久久久久久免费看 | 中文字幕在线观看免费观看 | 丁香六月婷婷开心婷婷网 | 日韩高清免费电影 | 日韩中文字幕免费 | 国产不卡免费av | 欧美日韩不卡在线观看 | 丁香六月天 | 日本深夜福利视频 | 深夜福利视频在线观看 | 天天摸日日摸人人看 | 欧美在线观看视频一区二区三区 | 日韩免费av在线 | 免费黄色在线播放 | 国产福利91精品 | 久久国产精品二国产精品中国洋人 | 91亚洲国产 | 一区二区三区日韩视频在线观看 | 一区二区三区观看 | av视屏在线| 免费黄色小网站 | 天天操天天摸天天干 | 免费v片| 成年性视频 | 天堂av最新网址 | 91人人爽久久涩噜噜噜 | 人成午夜视频 | 久久国产经典视频 | 一区二区三区四区五区在线 | 超碰精品在线 | 国产破处在线播放 | 天天做日日做天天爽视频免费 | 日韩在线一区二区免费 | 色.www| 日韩欧美一区二区三区在线 | 国产精品久久毛片 | 99视频在线免费播放 | 九九久久久久久久久激情 | 好看av在线 | 在线视频一二三 | 久久精品99国产精品日本 | 九九热视频在线免费观看 | 一级片色播影院 | 免费a视频在线观看 | 精品嫩模福利一区二区蜜臀 | 在线电影中文字幕 | 日韩 在线观看 | 九九热精 | 亚洲a成人v | 中文字幕在线免费播放 | 国产永久免费 | 欧美精品国产综合久久 | 国产亚洲成av人片在线观看桃 | 狠狠操精品 | 国产在线精品区 | 337p日本大胆噜噜噜噜 | 99欧美视频 | 国产黄在线看 | 国产在线精品区 | 亚洲精品在线电影 | 91成人精品一区在线播放69 | 中文在线字幕免费观看 | 日韩精品一区二区三区免费观看视频 | 成人黄色电影在线观看 | 永久av免费在线观看 | 色偷偷中文字幕 | 国产一级片免费视频 | 叶爱av在线 | 国产成人免费在线 | 国产中文字幕91 | 色综合网在线 | 91九色国产 | 国产超碰在线观看 | 国产在线一区二区三区播放 | 日韩va亚洲va欧美va久久 | 成人免费视频播放 | 欧美精品三级 | 欧美色一色 | 国产精品免费视频观看 | 狠狠色噜噜狠狠狠合久 | 91麻豆精品国产午夜天堂 | 中文字幕 婷婷 | 亚洲精品乱码久久久久久蜜桃91 | 狠狠干天天 | 午夜视频在线观看一区二区 | 精品国产成人在线 | 九九热免费在线视频 | 中文国产在线观看 | 欧美最新大片在线看 | 2021国产精品视频 | 丁香激情网 | 亚州欧美精品 | 国产精品 视频 | 久久亚洲私人国产精品 | 在线探花| 亚洲日韩中文字幕 | 日本特黄特色aaa大片免费 | 欧美日韩亚洲在线 | 五月婷香蕉久色在线看 | 日韩在线播放视频 | 国产精品国产亚洲精品看不卡 | 996久久国产精品线观看 | 日韩一区二区免费播放 | 91在线视频 | 国产一区二区三区午夜 | 亚洲在线视频免费 | 91精品1区2区 | 在线观看91av | 中文字幕 在线看 | 最近日本中文字幕 | 98精品国产自产在线观看 | 97超碰在线久草超碰在线观看 | 久久人网| 九九九九热精品免费视频点播观看 | 97超碰资源网 | 日本三级大片 | 9在线观看免费高清完整版 玖玖爱免费视频 | 97在线看 | 中文字幕在线不卡国产视频 | 狠狠干网| 亚洲精品美女久久17c | 午夜视频在线观看欧美 | 狠狠色狠狠色终合网 | 国产精品成久久久久 | 国产精品麻豆91 | 亚洲婷婷免费 | 人人澡超碰碰 | 黄a在线观看 | 99精品一级欧美片免费播放 | 久热这里有精品 | 天天干天天射天天操 | 韩国av在线播放 | 免费在线成人av电影 | 久久人人爽视频 | 黄色免费高清视频 | 一区中文字幕在线观看 | 亚洲成人黄| 欧美做受高潮1 | 中文字幕一区二区三区乱码不卡 | 人人爽人人片 | 日韩免费中文 | 中文字幕在线观看免费 | 66av99精品福利视频在线 | 欧美性爽爽 | 99精品视频99| 五月婷婷丁香色 | www免费在线观看 | 精品久久久久久久久久国产 | 91精品黄色 | 亚洲精品视频在线观看免费视频 | 在线观看国产www | 午夜av在线电影 | 午夜色大片在线观看 | 欧美日韩伦理在线 | 欧美性色19p | 婷婷在线不卡 | 高清免费av在线 | 国产成人99av超碰超爽 | www.天天成人国产电影 | 一区二区三区高清在线观看 | 91精品国自产拍天天拍 | 一区二区三区四区五区在线视频 | 亚洲国产精品久久久久婷婷884 | 人人艹视频 | 中文一区二区三区在线观看 | 国产亚洲久久 | 99久久精品免费视频 | 在线观看成人网 | 国产精品免费视频一区二区 | 久久综合99| 日韩爱爱网站 | 一区二区三区高清不卡 | 色综合久久久久久中文网 | 一区二区三区国产欧美 | 国产一区二区在线免费 | 青草视频在线 | 国产99久久久久久免费看 | 成年人视频在线免费 | 最新av网址大全 | 91看片淫黄大片在线播放 | 久久久国产电影 | 国产视频在线观看一区二区 | 制服丝袜亚洲 | 国产精品美女网站 | 亚洲成a人片77777潘金莲 | 日韩在线视频免费播放 | 日韩videos高潮hd | 久久精品免费看 | 干 操 插 | 亚洲精品自拍视频在线观看 | 日韩精品一区二区免费视频 | 国产精品久久久久久一区二区三区 | 亚洲精品国产精品国自产观看 | 中文字幕一区二区三区在线视频 | 正在播放国产一区二区 | 久草视频99 | 国产精品一区二区av | 色网av | 国产中文字幕视频在线观看 | 色综合五月 | 伊人亚洲精品 | 国产精品视频 | 男女激情片在线观看 | 国产特黄色片 | 97国产精品免费 | 国产亚洲欧美精品久久久久久 | 久久久久久久久久久久久久av | 麻豆网站免费观看 | 亚洲精选视频免费看 | 国内精品在线看 | 精品女同一区二区三区在线观看 | 午夜婷婷综合 | 中文字幕刺激在线 | 成人在线播放免费观看 | 国产 在线 高清 精品 | 国产精品久久久影视 | 国产视频不卡一区 | 中文字幕一区二区三 | 又黄又爽又无遮挡免费的网站 | 欧美国产日韩在线观看 | 久久久国产精华液 | 免费观看9x视频网站在线观看 | 91精品国产91p65 | 精品欧美一区二区三区久久久 | 韩日电影在线观看 | 日韩中文字幕免费视频 | 欧美成人猛片 | av在线电影播放 | 一级性av | 精品国产一区二区三区免费 | 超碰在线天天 | 日韩免费在线视频观看 | 粉嫩av一区二区三区四区 | 99亚洲天堂 | 日韩首页| 天天色天天操综合 | 欧美日韩高清在线一区 | 日韩美在线| 97精品国产91久久久久久 | 天天操操操操操 | 最近中文字幕完整高清 | 亚洲黄色av | 国产欧美在线一区二区三区 | 在线观看国产永久免费视频 | 99热999| 久久久穴 | 激情五月在线观看 | 久久免费的视频 | 日韩三级视频在线看 | 人人玩人人添人人澡超碰 | 欧美午夜a | 91精品久久久久久久久 | 日韩在线电影 | 成人午夜av电影 | 国产精品av在线免费观看 | 久久综合九色综合久99 | 玖玖在线资源 | 婷婷国产v亚洲v欧美久久 | 五月天色丁香 | 91精品在线免费 | av在线电影免费观看 | 亚洲色影爱久久精品 | 国产中文字幕免费 | a级黄色片视频 | 亚洲天堂视频在线 | 亚洲三级黄 | 国内一级片在线观看 | 91高清在线看 | 国产手机在线观看 | 在线观看视频国产一区 | 亚洲人成免费网站 | 免费碰碰 | 最近中文字幕在线播放 | 狠狠操在线 | 国产成人精品一区二 | 天天干天天看 | 色在线观看网站 |