Prometheus指標采集和查詢存儲方案-2020年

我們分一級監(jiān)控平臺和二級集群Prometheus監(jiān)控采集組件。一級提供kafka集群和Prometheus聚合組件，二級各集群部署Prometheus和Prometheus-kafka-adapter組件，采集和遠程送數(shù)據(jù)到一級的kafka集群。

該方案優(yōu)點：

1.業(yè)務系統(tǒng)可以跨集群聚合數(shù)據(jù)，如圖k8s集群-1和k8s集群-2數(shù)據(jù)聚合到Top-1的Prometheus上。

2.一級監(jiān)控平臺上只要有足夠的cpu、存儲資源，理論上可以水平擴展接入更多集群。2020年底采集的指標量每天3194億的量級，吞吐量達370萬/s。

3.采集端Prometheus可以保留極少數(shù)據(jù)，比如6小時的數(shù)據(jù)，減少資源消耗。而上層Prometheus由于落數(shù)據(jù)到時序數(shù)據(jù)庫influxdb中，可以保存一個月數(shù)據(jù)量甚至更多。

該方案沒做到什么：

1.采集端Prometheus擴容問題，單集群中數(shù)據(jù)規(guī)模受Prometheus原生的限制。

2.一級監(jiān)控平臺上時序數(shù)據(jù)庫influxdb有單點問題，數(shù)據(jù)規(guī)模和數(shù)據(jù)安全性受其影響。 我們要運維監(jiān)控這個東西的什么屬性？比如CPU的使用率、負載、用戶態(tài)、內(nèi)核態(tài)、上下文切換。浙江運維監(jiān)控經(jīng)驗豐富

Argus監(jiān)控運維系統(tǒng)采用高性能深度列式存儲集群，能提供超高壓縮比、順序存儲和自定義數(shù)據(jù)等功能，滿足企業(yè)PB級數(shù)據(jù)存儲的需求，實現(xiàn)海量數(shù)據(jù)毫秒級的響應。以觀縱服務的某企業(yè)為例，該企業(yè)承擔著產(chǎn)業(yè)鏈上下游數(shù)百家企業(yè)海量電子信息的實時匯聚和處理，每天新生成日志數(shù)據(jù)達到數(shù)十TB。云智慧助力該客戶打造的數(shù)字化運維日志中心，數(shù)據(jù)存儲壓縮比達到了1:0.3，能支持10萬/秒并發(fā)數(shù)據(jù)實時分析處理，數(shù)據(jù)傳輸和平臺解析處理吞吐量達540MB/s，處理延時控制在300毫秒以內(nèi)。 浙江運維監(jiān)控經(jīng)驗豐富對于運維監(jiān)控的告警信息，應該如何分析，或者說應該從哪些方向去分析呢？

相比傳統(tǒng)規(guī)則類監(jiān)控，日志異常檢測可以讓運維人員做到“輕松運維”——不用再設置大量繁瑣的監(jiān)控規(guī)則，也無需再設置多樣的告警觸發(fā)閾值，就可以快速檢測并發(fā)現(xiàn)日志的異常。這一功能還能降低對運維工程師經(jīng)驗的要求，幫助客戶減少因人員流動帶來的系統(tǒng)監(jiān)控不穩(wěn)定的風險。當前，Argus運維監(jiān)控系統(tǒng)已經(jīng)在運營商以及金融客戶的多個項目中得到了良好的實踐，能快速適應業(yè)務日志變化，高效實現(xiàn)對不同業(yè)務場景的監(jiān)控覆蓋，幫助客戶提高日志運維故障診斷和維護的效率，提升企業(yè)的業(yè)務可用性及穩(wěn)定性。

Argus運維監(jiān)控中硬件監(jiān)控包括：可以通過IPMI對硬件詳細情況進行監(jiān)控，并對CPU、內(nèi)存、磁盤、溫度、風扇、電壓等設置報警設置報警閾值(自行對監(jiān)控報警內(nèi)容編寫合理的報警范圍)IPMI工具無法獲取到硬件的狀態(tài)，可以借助MegaCli工具探測Raid磁盤隊列狀態(tài)zabbix提供IPMI監(jiān)控模板：ZabbixIPMIInterface。同時也能夠?qū)崟r采集到服務器的硬件報錯日志，代替管理員的日常機房巡檢工作，使管理員實時了解到服務器底層硬件的運行情況。帶外方式不通過操作系統(tǒng)，即使系統(tǒng)關(guān)機的狀態(tài)下仍可監(jiān)控服務器的基本硬件健康狀況 快速讀懂智能化運維監(jiān)控如何賦能IT可觀察性！

運維監(jiān)控從原有的被動式處理故障變?yōu)榻邮疹A警信息，提前發(fā)現(xiàn)潛在風險、提前解決問題，在IT故障波及業(yè)務運行之前的告警處置。及時發(fā)現(xiàn)業(yè)務系統(tǒng)各個單元故障，深度定位系統(tǒng)的故障根源，通過CMDB建立IT資源關(guān)聯(lián)關(guān)系并在故障發(fā)生時迅速發(fā)現(xiàn)潛在可能影響的業(yè)務。7*24小時不間斷、無遺漏監(jiān)控，相對于人工巡檢而言，發(fā)現(xiàn)問題更及時完備。支持對不同硬件廠商/系列/型號、不同軟件類型/版本的全類指標監(jiān)控和故障分析，內(nèi)置告警處置知識庫，降低了運維工作對人的依賴程度。方便IT組織部門對人與硬件資源、虛擬資源之間的維護關(guān)系管理，助力IT報障責任劃分體系建設，為IT運維人員的工作績效提供依據(jù)。使業(yè)務部門感知到的運行故障頻次大量降低，提升對信息保障部門的信任度。5個運維必須知道的運維監(jiān)控系統(tǒng)，功能真心強大！互聯(lián)網(wǎng)運維監(jiān)控服務熱線

在運維監(jiān)控中怎么樣才算是故障，要報警呢？比如CPU的負載到底多少算高，用戶態(tài)、內(nèi)核態(tài)分別跑多少算高？浙江運維監(jiān)控經(jīng)驗豐富

基于信創(chuàng)環(huán)境建立信創(chuàng)運維服務體系，滿足跨平臺對信創(chuàng)軟硬件設備提供運維監(jiān)控管理功能，包括不限于服務器（ARM架構(gòu)、MIPS架構(gòu)、X86架構(gòu)等）、網(wǎng)絡設備、數(shù)據(jù)庫（國產(chǎn)數(shù)據(jù)庫及非國產(chǎn)數(shù)據(jù)庫）、應用服務器、存儲、業(yè)務系統(tǒng)等全域多視角地監(jiān)控和管理，幫助用戶在極短時間發(fā)現(xiàn)問題、分析出原因、得出解決方案，使故障問題能夠在極短時間內(nèi)解決，保證業(yè)務系統(tǒng)的連續(xù)性。Argus 運維監(jiān)控平臺是跨區(qū)域、跨部門的運維系統(tǒng)監(jiān)控平臺，實現(xiàn)包括不限于服務器（ARM架構(gòu)、MIPS架構(gòu)、X86架構(gòu)等）、網(wǎng)絡設備、數(shù)據(jù)庫（國產(chǎn)數(shù)據(jù)庫及非國產(chǎn)數(shù)據(jù)庫）、中間件、存儲、業(yè)務系統(tǒng)等運維監(jiān)控。通過對基礎實施、信息系統(tǒng)、項目進度的總體監(jiān)控實現(xiàn)運維體系的有效運行，保障信創(chuàng)項目順利開展。提供自動化運維、智能化運維功能，打破了人工現(xiàn)場運維效率低下的現(xiàn)狀；從信息采集、健康巡檢、補丁分發(fā)等場景實現(xiàn)功能自動化；利用智能學習、大數(shù)據(jù)分析、機器學習等技術(shù)手段，實現(xiàn)故障從人工處理到無人值守的變革，降低故障處理時間的同時，實現(xiàn)被動運維到主動干預的轉(zhuǎn)變。浙江運維監(jiān)控經(jīng)驗豐富

上海觀縱科技有限公司是一家集生產(chǎn)科研、加工、銷售為一體的高新技術(shù)企業(yè)，公司成立于2022-11-14，位于上海市奉賢區(qū)望園南路1288弄80號1904、1909室。公司誠實守信，真誠為客戶提供服務。公司主要經(jīng)營webfunny前端監(jiān)控，webfunny前端埋點，全鏈路應用性能監(jiān)控，Argus-IT運維監(jiān)控等產(chǎn)品，我們依托高素質(zhì)的技術(shù)人員和銷售隊伍，本著誠信經(jīng)營、理解客戶需求為經(jīng)營原則，公司通過良好的信譽和周到的售前、售后服務，贏得用戶的信賴和支持。公司秉承以人為本，科技創(chuàng)新，市場先導，和諧共贏的理念，建立一支由webfunny前端監(jiān)控，webfunny前端埋點，全鏈路應用性能監(jiān)控，Argus-IT運維監(jiān)控專家組成的顧問團隊，由經(jīng)驗豐富的技術(shù)人員組成的研發(fā)和應用團隊。在市場競爭日趨激烈的現(xiàn)在，我們承諾保證webfunny前端監(jiān)控，webfunny前端埋點，全鏈路應用性能監(jiān)控，Argus-IT運維監(jiān)控質(zhì)量和服務，再創(chuàng)佳績是我們一直的追求，我們真誠的為客戶提供真誠的服務，歡迎各位新老客戶來我公司參觀指導。