hubot mysql_WiFeng的博客
在ELK常規(guī)的使用模式下,我們收集Nginx訪問日志是按照單行進(jìn)行的。這樣比如說有10個用戶請求,對應(yīng)在ElasticSearch中就是10條記錄(也稱為10個document)。下面將分別描述此種收集方法的優(yōu)缺點(diǎn)。
首先,這樣的收集方式非常利于按照指定字段去搜索,并根據(jù)匹配的記錄去查看其它字段的信息。比如統(tǒng)計客戶端IP為 127.0.0.1 的請求有多少,使用IPhone 手機(jī)的請求有多少。當(dāng)出現(xiàn) 499 、502 狀態(tài)碼時,看看這些請求的URL是什么,然后快速定位問題。這些方法都是非常非常實用而且好用的。
其次,除了上面的這些需求之外,我們還想要制作統(tǒng)計圖,比如統(tǒng)計按時間范圍統(tǒng)計總請求數(shù),4xx 數(shù)量,5xx數(shù)量,響應(yīng)時間超過 500ms的請求數(shù),輸出的字節(jié)數(shù)量,平均響應(yīng)時間。特別是最后2項,時間范圍跨度越長,數(shù)據(jù)量越大,計算時間就越長。據(jù)我們實際使用中的數(shù)據(jù)量,單個索引,每天 3億的文檔數(shù)量,對應(yīng)就有120G左右的數(shù)據(jù),在單個dashboard中同時展示上面的幾種圖標(biāo),如果時間跨度超過1小時,頁面加載時間就會超過 2s 。而kibana又提供了自動刷新功能,這樣如果有多個人同時使用 elasticsearch就會咔咔的慢。
總結(jié)
以上是生活随笔為你收集整理的hubot mysql_WiFeng的博客的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 1024程序员节,送18本技术书籍给大家
- 下一篇: 基于Springboot的小型超市商品展