clickhouse官方文档_clickhouse分析:结合grafana和metabase完成监控和数据分析
點擊上方藍字關注我們
“?關于clickhouse的監控和可視化界面,想必剛接觸到ch的人是一頭霧水,大廠往往會給ch集群定制各種監控和可視化分析,普通用戶就需要我們自己尋求現成的開源工具,在一些常見的開源工具上,我們可以較好的使用和定制我們想要展示的內容。本文從grafana和metabase兩個組件出發,分析了其安裝和配合ch使用的過程。”
grafana
安裝
下載安裝,見[1][2],ch需要注意下載插件并解壓到插件目錄即可。
使用
可以直接導入json來完成clickhouse的看板的生成。
常用的看板
ClickHouse Queries
該看板要開啟clickhouse的log配置才可以使用,其它的看板也有和其它監控工具結合完成的。
<log_queries>1log_queries>大部分的監控都是基于system下的query_log,events和metrics等表完成的。
我們也可以自己定制一些個性化的SQL展示出來,在這一點上與Metabase有點相似。
Metabase
安裝
之前筆者也分析過一些關于metabase的安裝等文章,所以對metabase比較熟悉,在得知其也支持clickhouse時,當然也是趕緊試用一下。除了metabase,業界使用的最多的是superset工具來做ch的數據分析可視化操作。
jar安裝
java -jar metabase.jar
由于metabase默認沒有clickhouse驅動,我們需要在額外添加該插件,如果你已經啟動過metabase,會發現當前目錄有plugins,將driver放入重啟即可。(注意插件與metabase版本的對應關系,不然會出現一些使用異常,不然會出現如下異常)
No?method?in?multimethod?'connection-details->spec'?for?dispatch?value:?:clickhouse根據參考文章中的一些提示可以使用變量指定啟動的端口號等配置:
export?MB_JETTY_PORT=8080出現如下異常:Distinct, non-empty sequence of Field clauses
這里出現的原因主要是metabase沒有掃描完成我們的庫,因為metabase需要把我們庫中的字段等信息存儲起來,沒有掃描完成自然就沒辦法展示數據,筆者使用0.35版本無法掃描完成,更新到0.36版本才正常顯示(若依然不能正常顯示可在管理頁面重新觸發掃描)。
docker安裝
docker命令:
docker run -d -p 3000:3000 --name metabase metabase/metabase
掛載clickhouse-driver的啟動:
docker run -d -p 3000:3000 \ --mount type=bind,source=/path/to/plugins,destination=/plugins \ --name metabase metabase/metabase123img配置
添加一個數據庫:
一些case
簡單的表test_zookeeper(之前測試使用的表),結合官方文檔的測試sql,完成幾個場景的構建,建表語句:
CREATE TABLE default.test_zookeeper( `Id` Int32, `Code` Int32, `Type` String) ENGINE = ReplicatedMergeTree('/clickhouse/tables/{layer}-{shard}/default_test_zookeeper', '{replica}') PARTITION BY Code ORDER BY (Id, Code) SETTINGS index_granularity = 8192;12345678- 求相同code下的最大id趨勢圖
- 官方的一些分析
首先是當前表的count數,Code Test Zookeeper為Code出現的次數圖,Type Test Zookeeper為Type出現的次數圖。
- 求Code為2020-2021之間出現的條目次數:
- 求Code大于2020,Type中字符出現的次數的排行:
參考文章
end
如果您想了解更多有關深度學習、機器學習、java開發、大數據等知識,歡迎關注我們的公眾號,我會整理分享關于這些的有趣文章。
總結
以上是生活随笔為你收集整理的clickhouse官方文档_clickhouse分析:结合grafana和metabase完成监控和数据分析的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: gbk编码在线转换工具_TOOLFK工具
- 下一篇: centos7离线安装mysql_Cen