2019獨(dú)角獸企業(yè)重金招聘Python工程師標(biāo)準(zhǔn)>>>

關(guān)鍵詞： 監(jiān)控 、dashboard、PHP、graphite、statsd、whisper、carbon、grafana、influxdb、Python 本文檔適用人員：研發(fā)和運(yùn)維員工 提綱：

監(jiān)控平臺(tái)要做到什么程度？為什么要自己做？

幾個(gè)通用技術(shù)問題

• 繪圖所依賴的數(shù)據(jù)如何收集？如何加工？如何存儲(chǔ)？
• 圖形如何繪制，各種指標(biāo)如何疊加？
• 拓?fù)潢P(guān)系如何繪制？

技術(shù)選型哲學(xué) 最終選了statsd+graphite 數(shù)據(jù)的采集 數(shù)據(jù)存儲(chǔ)的粒度 天機(jī)的技術(shù)選型 一，監(jiān)控平臺(tái)要做到什么程度？為什么要自己做？ 運(yùn)維監(jiān)控滿滿都是著各種開源系統(tǒng)以及它們的 Dashboard：

• Zabbix
• Nagios
• Centreon
• Logstash
• Ganglia+Cacti

以及各種業(yè)務(wù)指標(biāo)趨勢(shì)的 Dashboard。 我們認(rèn)為，監(jiān)控不能只是各種數(shù)據(jù)的采集和羅列，不僅僅是弄若干個(gè)報(bào)表并進(jìn)一步配置成儀表盤， 而是有一定智能，仿照我們?nèi)粘５呐挪閱栴}思路，建立一定規(guī)則，自動(dòng)檢查，深度檢查，友情提示。 隨手舉一個(gè)例子：

規(guī)則：模仿我們發(fā)現(xiàn)問題后先檢查數(shù)據(jù)庫主從同步是否有問題的習(xí)慣

天機(jī)系統(tǒng)發(fā)現(xiàn)成單金額或驗(yàn)證券數(shù)或短信發(fā)送條數(shù)環(huán)比大幅下降后，啟動(dòng)檢查規(guī)則， 自動(dòng)逐一檢查各種從庫的主從同步情況。 如果發(fā)現(xiàn)主從延遲超過閾值，則天機(jī) DashBoard 應(yīng)浮出兩條紅色警告提示（可點(diǎn)擊進(jìn)入）： 5分鐘銷售數(shù)據(jù)環(huán)比下降50% 某某從庫DBXXXX與主庫DBYYYY的同步延遲了300秒 如果發(fā)現(xiàn)主從同步失敗導(dǎo)致了同步停止，則應(yīng)浮出兩條紅色警告提示（可點(diǎn)擊進(jìn)入）： 5分鐘驗(yàn)證券數(shù)環(huán)比下降40% 某某從庫DBXXXX與主庫DBYYYY的同步停止，失敗原因?yàn)?#xff1a;blabla

就這樣，只有自己動(dòng)手，才能把我們?nèi)粘７治鰡栴}、定位問題的經(jīng)驗(yàn)變成一條條系統(tǒng)規(guī)則，還是那句話： 自動(dòng)化才是王道。 二，幾個(gè)通用技術(shù)問題
大致想來，李丹劉奎還需要解決這么幾個(gè)基礎(chǔ)問題： 2.1.繪圖所依賴的監(jiān)控原始數(shù)據(jù)如何收集？如何加工？如何存儲(chǔ)？ 不同運(yùn)維指標(biāo)和業(yè)務(wù)指標(biāo)的時(shí)間粒度大小不一，1秒、1分鐘、5分鐘…… 數(shù)據(jù)是業(yè)務(wù)方自行上報(bào)？還是主動(dòng)采集？考慮一下可伸縮性：如果是數(shù)以百計(jì)物理機(jī)、成千上萬個(gè)虛擬機(jī)或容器的數(shù)以萬計(jì)指標(biāo)呢？如果采集頻率非常高呢？ 拿到原始數(shù)據(jù)后，原始數(shù)據(jù)至少還要經(jīng)過 min/max/sum/count/mean/media……等計(jì)算才能變?yōu)榭梢暬瘓D表要展示的維度。 這些東西又怎么存儲(chǔ)？ 2.2.圖形如何繪制，各種指標(biāo)如何疊加？ 在使用 Centreon 時(shí)，我們就抱怨不能把多個(gè)維度的指標(biāo)自由組合后疊加在一張圖上看。是的，Centreon 能在一張圖上展示某個(gè)主機(jī)的它定義好的幾個(gè)指標(biāo)，如下圖所示： 圖1 centreon圖例 但我們希望還能把不同主機(jī)的不同指標(biāo)按我們的意愿放在一張圖上繪制，也就是可配置的，這樣有利于排查問題，能快速看出趨勢(shì)變化和關(guān)聯(lián)關(guān)系。 其次，繪圖得快，而且運(yùn)維看的都是近乎實(shí)時(shí)的度量數(shù)據(jù)，怎么才能足夠快。 2.3.拓?fù)潢P(guān)系如何繪制？ 拓?fù)潢P(guān)系很重要，最好能自動(dòng)可視化，畢竟一圖勝過千言萬語。 隨手舉個(gè)例子：

數(shù)據(jù)庫拓?fù)潢P(guān)系

在監(jiān)控系統(tǒng)里登記了 DB 的IP和分組后，其實(shí)已經(jīng)可以探測(cè)到 DB 之間的主從關(guān)系（包括級(jí)聯(lián)關(guān)系）了，能自動(dòng)繪制出登記的所有數(shù)據(jù)庫服務(wù)器之間的關(guān)系。舉例如下： 圖2 自動(dòng)繪制數(shù)據(jù)庫拓?fù)?/span>

三，技術(shù)選型哲學(xué) 選型兩個(gè)重要觀點(diǎn)：

不重復(fù)制造輪子；

既然找輪子，那這個(gè)輪子就應(yīng)該只做一件事，且把它做到最好。

可供選擇的方案有：

grafana + influxdb

statsd + graphite

collectd + graphite

grafana + graphite

3.1.StatsD 2013年 eBay 云談及 OpenStack 的監(jiān)控和報(bào)警時(shí)，提及了 statsd 和 graphite，如下圖所示： 圖3 ebay云的監(jiān)控報(bào)警 StatsD 是一個(gè) NodeJs 的 daemon 程序，簡單輕巧，使用 UDP 協(xié)議，專門用來收集數(shù)據(jù)，收集完數(shù)據(jù)就發(fā)送到其他服務(wù)器進(jìn)行處理。 3.2.Graphite

Graphite?是一個(gè)企業(yè)級(jí)的監(jiān)控工具，用 Python 編寫，采用 django 框架，sqlite 數(shù)據(jù)庫存儲(chǔ)，自有簡單文本協(xié)議通訊，繪圖功能強(qiáng)大。最初由?Chris Davis 在 Orbitz 工作時(shí)，作為一個(gè)輔助項(xiàng)目開發(fā)的，最終成了一個(gè)監(jiān)控基礎(chǔ)工具，如他所言，Graphite provides real-timevisualization?andstorage?of numeric time-series data，重點(diǎn)解決：

• 實(shí)時(shí)可視化
• 時(shí)間序列數(shù)據(jù)的存儲(chǔ)

嚴(yán)格地說，Graphite 只是一個(gè)根據(jù)數(shù)據(jù)繪圖的工具，數(shù)據(jù)收集通常由第三方工具或插件完成，它自帶了 carbon 和 whisper，還可根據(jù)其協(xié)議選用別的數(shù)據(jù)源供其繪圖。官方描述，預(yù)計(jì)用Ceres?替代 Whisper。

圖4 graphite圖例

簡單的文本協(xié)議和強(qiáng)大的繪圖功能使得它可以方便地?cái)U(kuò)展到任何需要監(jiān)控的系統(tǒng)上。豆瓣、Google、GitHub、Instagram、Uber等公司都用它。

3.3.CollectD

C語言開發(fā)的 collectd 是一個(gè)較為古老的工具，像 statsd 一樣它也做周期性收集統(tǒng)計(jì)數(shù)據(jù)，collectd 還管數(shù)據(jù)存儲(chǔ)。它能夠通過插件支持檢測(cè)各種各樣的系統(tǒng)信息，如數(shù)據(jù)庫、UPS。

要想查看 collectd 收集的信息，還需要安裝 web 界面或者 Cacti，于是工作模式就是：

collectd 作為守護(hù)進(jìn)程運(yùn)行，每隔 10 秒收集信息，而 Cacti 每隔5分鐘運(yùn)行一個(gè) PHP 腳本來收集信息（兩者的時(shí)間間隔可配置）。

3.4.Influxdb InfluxDB?是一個(gè)開源分布式時(shí)序、事件和指標(biāo)數(shù)據(jù)庫。使用 Go 語言編寫，無需外部依賴。其設(shè)計(jì)目標(biāo)是實(shí)現(xiàn)分布式和水平伸縮擴(kuò)展。向這個(gè)時(shí)間序列數(shù)據(jù)庫插入數(shù)據(jù)，每條數(shù)據(jù)都會(huì)自動(dòng)附加上兩個(gè)字段，一個(gè)時(shí)間，一個(gè)序列號(hào)（用來作為主鍵的）。
特點(diǎn)：

• schemaless（無結(jié)構(gòu)），可以是任意數(shù)量的列
• Scalable
• min, max, sum, count, mean, median 一系列函數(shù)，方便統(tǒng)計(jì)
• Native HTTP API， 內(nèi)置http支持，使用http讀寫
• Powerful Query Language，類似SQL
• Built-in Explorer，自帶管理工具

管理界面如下圖所示： 圖5 influxdb圖例

3.5.Grafana

grafana 則類似 ES Kibana 的可視化面板，有著非常漂亮的圖表和布局，目前支持?Graphite、Influxdb 和 Opentsdb） +?influxdb（分布式時(shí)序、事件和指標(biāo)數(shù)據(jù)庫）等配搭。

grafana 與 influxdb 整合后的效果如下圖所示： 圖6 grafana+influxdb整合圖例 四，最終選了statsd+graphite 最終李丹和劉奎選擇的方案是： statsd（采集） + graphite（繪制， whisper 負(fù)責(zé)存儲(chǔ)）。 搭建了 Graphite 之后，你可以在它自帶的管理站點(diǎn)上看到所有指標(biāo)的歷史數(shù)據(jù)，可以選時(shí)間范圍，如下圖所示： 圖7 graphite管理站點(diǎn)圖例 graphite 管理界面里的圖形，請(qǐng)求格式如下所示： http://graphite系統(tǒng)域名/render/?width=586&height=308&_salt=1410088306.115&target=stats.timers.mysql.172_16_999_999-3306.aborted_clients.upper_90 如果我們的監(jiān)控系統(tǒng)要把多個(gè)指標(biāo)拼到一個(gè)圖形上渲染，則請(qǐng)求格式如下所示：

http://監(jiān)控系統(tǒng)域名/db/createImage/target/%5B%22stats.timers.mysql.172_16_999_991-3306.com_select_persecond.upper%22%2C%22stats.timers.mysql.172_16_999_992-3306.com_select_persecond.upper%22%2C%22stats.timers.mysql.172_16_999_993-3306.com_select_persecond.upper%22%5D/from/-1hour.html?width=492&n=0.8623758849623238

從而繪制出如下圖形，這就是我在前面2.2小節(jié)說想要的特性： 圖8 三個(gè)主機(jī)的指標(biāo)繪制在一起 Graphite 分為三個(gè)組件：

carbon?- aTwisted?daemon that listens for time-series data

whisper?- a simple database library for storing time-series data (similar in design toRRD)

graphite webapp?- ADjango?webapp that renders graphs on-demand usingCairo

它的 High Level 圖如下所示： 圖9 graphite high level 從上圖看出，Carbon 接到度量數(shù)據(jù)后，寫入?Whisper 庫里，Graphite Webapp 去 Whisper 讀取數(shù)據(jù)，系統(tǒng)應(yīng)該也做了一份緩存，所以你發(fā)送數(shù)據(jù)給 Carbon，立即就可以在 Webapp 中繪圖，這也是為什么在磁盤 I/O 反應(yīng)不過來的時(shí)候，Webapp 的圖形仍能以接近實(shí)時(shí)的方式顯示的原因。 下面兩張圖能幫助大家進(jìn)一步理解 Graphite 里 Carbon 和 Whisper 如何協(xié)同的。

圖10 graphite 邏輯圖

圖11 Graphite 數(shù)據(jù)流轉(zhuǎn)圖

五，數(shù)據(jù)的采集 采集數(shù)據(jù)共有兩種方式：Get_Data 和 Push_Data。

• 天機(jī)平臺(tái)主動(dòng)拉數(shù)據(jù)，主要集中在數(shù)據(jù)庫的主從同步、數(shù)據(jù)庫的拓?fù)潢P(guān)系等這樣的關(guān)系型數(shù)據(jù)采集上。
• 其他場景下，基本都需要采集單點(diǎn)狀態(tài)的數(shù)據(jù)，則由客戶端腳本（即 agent）獲取數(shù)據(jù)后，再推送到天機(jī)平臺(tái)。

采集到的數(shù)據(jù)會(huì)走 UDP 協(xié)議發(fā)給 StatsD，由 StatsD 解析、提取、計(jì)算處理后，周期性地發(fā)送給 Graphite。 數(shù)據(jù)推送到 Graphite 時(shí)，時(shí)間周期為1分鐘，采集1分鐘內(nèi)的業(yè)務(wù)數(shù)據(jù)按照 metric_path value timestamp\n 的格式發(fā)送。需要注意的是每次發(fā)送的數(shù)據(jù)必須以 \n 結(jié)尾，不能省略。 六，數(shù)據(jù)存儲(chǔ)的粒度 首先，我們需要知道 statsD 默認(rèn)10秒一個(gè)周期，可以通過修改 config.js 的 flushInterval 屬性變更。 其次，Graphite 里有一個(gè)retention（保留）的概念，即明確數(shù)據(jù)精度以及丟棄多久之前的數(shù)據(jù)，在?/opt/graphite/conf/ storage-schemas.conf?配置文件里定義。retention 定義的表達(dá)式為 frequency:history，每一個(gè) retention 之間用英文逗號(hào)分隔。 默認(rèn)是按10秒一個(gè)數(shù)據(jù)的方式，存一天的數(shù)據(jù)，一天前的數(shù)據(jù)就沒了，如下面的配置所言： [default_1min_for_1day]pattern = .*retentions = 10s:1d 可以自定義 retentions，注意表達(dá)式里每一個(gè)時(shí)間間隔必須是第一個(gè)的倍數(shù)，也就是說，第一個(gè)是10s，那么第二個(gè)只能是10s的整數(shù)倍，以此類推。 天機(jī)的數(shù)據(jù)庫監(jiān)控的粒度為： [stats]pattern = ^stats.*retentions = 10s:1d,30s:7d,1m:28d,15m:5y 依次解釋一下： 10s:1d——1天以內(nèi)的數(shù)據(jù)是10秒為一個(gè)值， 30s:7d——大于1天小于7天內(nèi)的數(shù)據(jù)是以30秒為一個(gè)值， 1m:28d——大于7天小于28天內(nèi)的是以1分鐘為一個(gè)值， 15m:5y——大于28天小于5年的，是以15分鐘為一個(gè)值， 大于5年的數(shù)據(jù)丟棄。 當(dāng)把10秒的數(shù)據(jù)降為1分鐘數(shù)據(jù)時(shí)，默認(rèn)是算平均值，但你也可以按合計(jì)值、最大值、最小值等，反正都在 storage-aggregation.conf 里配置。 天機(jī)的業(yè)務(wù)指標(biāo)監(jiān)控的粒度為： [business_monitoring]pattern = ^business_monitoring\.retentions = 1m:5y 為什么這么定義？因?yàn)樘鞕C(jī)要能繪制任意時(shí)間段里粒度為1分鐘的業(yè)務(wù)指標(biāo)曲線圖，所以 Graphite 不能縮小精度。 七，天機(jī)的技術(shù)選型 涉及到的開發(fā)語言有： php，node.js，python，javascript 涉及相關(guān)的框架和服務(wù)： Yii，graphite，StatsD，D3js（數(shù)據(jù)可視化JS框架），pt-query-digest（分析MySQL慢查日志） 最后，天機(jī)系統(tǒng)的目標(biāo)是以最有效率的方式查找到事故點(diǎn)，為此要做到數(shù)據(jù)一體化和自動(dòng)化。 -over- 參考資料： StatsD plugin metrics explanation： http://cookbook.logstash.net/recipes/statsd-metrics/
Understanding StatsD and Graphite：? http://blog.pkhamre.com/2012/07/24/understanding-statsd-and-graphite/ Measure Anything, Measure Everything： http://codeascraft.com/2011/02/15/measure-anything-measure-everything/ InfluxDB 開源分布式時(shí)序、事件和指標(biāo)數(shù)據(jù)庫 開源監(jiān)控利器grafana-博客園

窩窩的解決方案介紹列表：

#研發(fā)解決方案#基于StatsD+Graphite的智能監(jiān)控解決方案

#研發(fā)中間件介紹#定時(shí)任務(wù)調(diào)度與管理JobCenter

#研發(fā)解決方案介紹#Recsys-Evaluate（推薦評(píng)測(cè)）

#研發(fā)解決方案介紹#Tracing（鷹眼）

#研發(fā)解決方案介紹#基于持久化配置中心的業(yè)務(wù)降級(jí)

#研發(fā)中間件介紹#異步消息可靠推送Notify

#研發(fā)解決方案介紹#IdCenter（內(nèi)部統(tǒng)一認(rèn)證系統(tǒng)）

#研發(fā)解決方案介紹#基于ES的搜索+篩選+排序解決方案

#數(shù)據(jù)技術(shù)選型#即席查詢Shib+Presto，集群任務(wù)調(diào)度HUE+Oozie

轉(zhuǎn)載于:https://my.oschina.net/guoenzhou/blog/380030

《新程序員》：云原生和全面數(shù)字化實(shí)踐50位技術(shù)專家共同創(chuàng)作，文字、視頻、音頻交互閱讀

總結(jié)

以上是生活随笔為你收集整理的#研发解决方案介绍#基于StatsD+Graphite的智能监控解决方案的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。