轻松搞定对容器实例日志设置定期清理和回卷
歡迎大家前往騰訊云技術社區,獲取更多騰訊海量技術實踐干貨哦~
作者:騰訊云容器服務團隊?
###引言 Kubernetes對于容器實例的日志收集,并沒有提供原生的解決方案。但提供使用 kubectl logs 命令查看容器實例運行時的日志。kubectl logs 命令實現的基本原理為:容器運行時默認將標準輸出和標準錯誤中的日志輸出到磁盤上保存。保存至主機目錄:/var/lib/docker/containers/container_id/ 目錄。用戶調用kubectl logs 命令時,kubelet 讀取對應的日志文件中的數據,將數據回傳給master,再由master返回到用戶。從而實現用戶對日志的查看。
騰訊云容器服務利用kubectl logs 命令,實現在控制臺即可查看對應容器實例的日志,并且提供查看某個特定時間段的日志的功能,這極大的方便了用戶對容器實例中的程序進行定位和跟蹤。但是,由于在容器實例日志保存在本地,當程序中大量打印日志時,很容易造成主機上的磁盤空間大量被占用。在日志服務上線一段時間后,發現用戶遇到這種情況時,一般是手動去清理日志。我們就考慮是不是有比較簡單的方式,在集群節點對日志進行定期清理和回卷。
###通過logrotate服務實現日志定期清理和回卷
logrotate是個十分有用的工具,它可以自動對日志進行截斷(或輪循)、壓縮以及刪除舊的日志文件。例如,你可以設置logrotate,讓/var/log/foo日志文件每30天輪循,并刪除超過6個月的日志。配置完后,logrotate的運作完全自動化,不必進行任何進一步的人為干預。
但如果按照之前的部署方式,需要手動在每個節點上都安裝和配置對應logrotate工具。如果通過Kubernetes容器服務編排的能力,將logrotate通過Kubernetes中服務的方式部署到各個節點上,這樣既可以實現只需要一次部署,部署到所有節點。并且通過容器的方式保證了logrotate配置的一致性。 具體的實施方案如下圖所示:
方案的具體實現是在Kubernetes集群中,創建DaemonSet資源實現。DaemonSet資源會在每個Node節點上都部署一個logrotate的容器實例,并且在容器實例中設置映射主機的log日志目錄,從而實現日志的定時清理和回卷。創建DaemonSet的示例如下:
apiVersion: extensions/v1beta1 kind: DaemonSet metadata:name: logrotate spec:template:metadata:labels:app: loggingid: logrotatename: logrotatespec:containers:- name: logrotate-esimage: blacklabelops/logrotatesecurityContext:privileged: truevolumeMounts:- name: containersmountPath: /var/lib/docker/containers- name: varlogmountPath: /var/log/docker- name: logsmountPath: /logsenv:- name: LOGS_DIRECTORIESvalue: "/var/lib/docker/containers /var/log/docker"- name: LOGROTATE_INTERVALvalue: "hourly"- name: LOGROTATE_OLDDIRvalue: "/logs"volumes:- hostPath:path: /var/lib/docker/containersname: containers- hostPath:path: /var/log/dockername: varlog- hostPath:path: /var/log/containers/name: logs 復制代碼使用這個yaml文件,可以直接在Kubernetes中進行部署。
# kubectl create -f logrotate_ds.yaml daemonset "logrotate" created 復制代碼在示例的yaml文件中,logrotate服務將按照定時(1小時)的對日志進行回卷,回卷超過5個副本后則會對日志進行清理。如果有需要,可以修改相應的參數,設置不同的回卷規則和清理規則。詳細的參數說明可以參考:github.com/blacklabelo…
###通過修改dockerd參數進行回卷和清理
由于Kubernetes的日志收集,底層是通過docker來實現。而docker提供了一定的日志回卷和清理功能??梢酝ㄟ^在dockerd的啟動參數中,增加log-opts()參數實現對日志的回卷和清理,其中max-size參數設置日志一個副本的最大值,max-file設置日志的最大的副本數。超過這個副本數則會對日志進行刪除。
具體的修改過程包括三個步驟: 1、創建/etc/dockerd/daemon.json
{"log-driver":"json-file","log-opts":{"max-size" :"10m","max-file":"3"} } 復制代碼參數說明: 設置單個容器日志超過10M則進行回卷,回卷的副本數超過3個就進行清理。
2、修改dockerd 服務配置文件
在 /etc/systemd/system/multi-user.target.wants/dockerd.serviced文件中添加dockerd啟動參數--config-file=/etc/docker/daemon.json
3、重新啟動dockerd服務
systemctl daemon-reload service dockerd restart 復制代碼相關閱讀
8 月最新基于 kubernetes 的應用編排實踐 5 種 Docker 日志最佳實踐 一文教你迅速解決分布式事務 XA 一致性問題 ?------ 此文已由作者授權騰訊云技術社區發布,轉載請注明文章出處 原文鏈接:https://cloud.tencent.com/community/article/579587
超強干貨來襲 云風專訪:近40年碼齡,通宵達旦的技術人生總結
以上是生活随笔為你收集整理的轻松搞定对容器实例日志设置定期清理和回卷的全部內容,希望文章能夠幫你解決所遇到的問題。
 
                            
                        - 上一篇: Splay(区间翻转) 模板
- 下一篇: 15.4. syslog, klogct
