iLogtail使用入门-K8S环境日志采集到SLS
?簡介:iLogtail是阿里云中簡單日志服務(wù)又名“SLS”的采集部分。 它用于收集遙測(cè)數(shù)據(jù),例如日志、跟蹤和指標(biāo),目前已經(jīng)正式開源(https://github.com/alibaba/ilogtail)。本文通過介紹ilogtail如何在K8S環(huán)境進(jìn)行安裝、配置、使用的最簡流程,幫助用戶使用預(yù)編譯版本快速上手ilogtail日志采集。
使用前準(zhǔn)備
- 開通阿里云日志服務(wù)并創(chuàng)建了Project(具體步驟參見上一節(jié)《ilogtail使用入門-主機(jī)環(huán)境日志采集到SLS》)
- 準(zhǔn)備一個(gè)具備公網(wǎng)訪問權(quán)限的K8S集群,服務(wù)器架構(gòu)為X86-64。
創(chuàng)建日志配置
1.跳轉(zhuǎn)到日志服務(wù)控制臺(tái)(sls.console.aliyun.com),點(diǎn)擊上一節(jié)中已經(jīng)創(chuàng)建的project。
2.進(jìn)入Project查詢頁面后,點(diǎn)擊左側(cè)邊欄的“放大鏡”圖標(biāo),展開logstore管理界面,點(diǎn)擊“+”,彈出“創(chuàng)建Logstore”右側(cè)邊欄。按照提示進(jìn)行配置,輸入logstore名稱后,點(diǎn)擊“確認(rèn)”。
3.logstore創(chuàng)建成功后,取消數(shù)據(jù)接入向?qū)А|c(diǎn)擊左側(cè)邊欄中的“立方體”按鈕,在彈出的“資源”浮層中選擇“機(jī)器組”。在展開的“機(jī)器組”左邊欄中,點(diǎn)擊右上角的“四方格”圖標(biāo),在彈出的浮層中選擇“創(chuàng)建機(jī)器組”。
4.在“創(chuàng)建機(jī)器組”有側(cè)邊欄中按提示配置,“機(jī)器組標(biāo)識(shí)”選擇“用戶自定義標(biāo)識(shí)”,“名稱”、“機(jī)器組Topic”、“用戶自定義標(biāo)識(shí)”建議保持一致。“用戶自定義標(biāo)識(shí)”是其中最為重要的一個(gè)配置,本教程中使用“my-k8s-group”,后續(xù)在安裝ilogtail時(shí)會(huì)再次用到。“點(diǎn)擊”確認(rèn)保存機(jī)器組。
5.再次點(diǎn)擊左側(cè)邊欄的“放大鏡”圖標(biāo),展開logstore管理界面,點(diǎn)擊第2步中創(chuàng)建的logstore的“向下展開”圖標(biāo),彈出“配置Logstore”菜單。點(diǎn)擊“l(fā)ogtail配置”的“+”按鈕。
6.在彈出的“快速接入數(shù)據(jù)”對(duì)話框中搜索“kube”,并選擇“Kubernertes-文件”。在彈出的“提示”框中單機(jī)“繼續(xù)”。
7.在“Kubernertes文件”配置界面,直接選擇“使用現(xiàn)有機(jī)器組”。
8.跳轉(zhuǎn)到“機(jī)器組配置”界面,選擇第4步中創(chuàng)建的機(jī)器組,點(diǎn)擊“>”按鈕將其加入到“應(yīng)用機(jī)器組”中,然后點(diǎn)擊“下一步”。
9.在ilogtail配置中僅修改“配置名稱”和“日志路徑”兩個(gè)必填項(xiàng),點(diǎn)擊“下一步”確認(rèn)。
10.完成索引配置。這一步不對(duì)任何選項(xiàng)進(jìn)行修改,直接點(diǎn)擊下一步完成配置。
安裝ilogtail
1.登陸可以控制K8S集群的中控機(jī)。編輯ilogtail的ConfigMap YAML。
$ vim alicloud-log-config.yaml在Vim中粘貼如下內(nèi)容并保存(注意,修改注釋中提示的字段,7-11行)。
apiVersion: v1 kind: ConfigMap metadata:name: alibaba-log-configurationnamespace: kube-system data:log-project: "my-project" #修改為實(shí)際project名稱log-endpoint: "cn-wulanchabu.log.aliyuncs.com" #修改為實(shí)際endpointlog-machine-group: "my-k8s-group" #可以自定義機(jī)器組名稱log-config-path: "/etc/ilogtail/conf/cn-wulanchabu_internet/ilogtail_config.json" #修改cn-wulanchabu為實(shí)際project地域log-ali-uid: "*********" #修改為阿里云UIDaccess-key-id: "" #本教程用不上access-key-secret: "" #本教程用不上cpu-core-limit: "2"mem-limit: "1024"max-bytes-per-sec: "20971520"send-requests-concurrency: "20"2.計(jì)算alicloud-log-config.yaml的sha256 hash,并編輯ilogtail的DaemonSet YAML。
$ sha256sum alicloud-log-config.yaml f370df37916797aa0b82d709ae6bfc5f46f709660e1fd28bb49c22da91da1214 alicloud-log-config.yaml $ vim logtail-daemonset.yaml在Vim中粘貼如下內(nèi)容并保存(注意,修改注釋中提示的字段,21、25行)。
apiVersion: apps/v1 kind: DaemonSet metadata:name: logtail-dsnamespace: kube-systemlabels:k8s-app: logtail-ds spec:selector:matchLabels:k8s-app: logtail-dsupdateStrategy:type: RollingUpdatetemplate:metadata:labels:k8s-app: logtail-dskubernetes.io/cluster-service: "true"version: v1.0annotations:checksum/config: f370df37916797aa0b82d709ae6bfc5f46f709660e1fd28bb49c22da91da1214 #必須修改為alicloud-log-config.yaml的hashspec:containers:- name: logtailimage: registry.cn-wulanchabu.aliyuncs.com/log-service/logtail:latest #可以修改為距離k8s集群最近的地域resources:limits:cpu: 2memory: 1024Mirequests:cpu: 100mmemory: 256MilivenessProbe:httpGet:path: /livenessport: 7953scheme: HTTPinitialDelaySeconds: 30periodSeconds: 60securityContext:privileged: trueenv:- name: HTTP_PROBE_PORTvalue: "7953"- name: "ALIYUN_LOGTAIL_CONFIG"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: log-config-path- name: "ALIYUN_LOGTAIL_USER_ID"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: log-ali-uid- name: "ALIYUN_LOGTAIL_USER_DEFINED_ID"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: log-machine-group- name: "ALICLOUD_LOG_ACCESS_KEY_ID"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: access-key-id- name: "ALICLOUD_LOG_ACCESS_KEY_SECRET"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: access-key-secret- name: "ALICLOUD_LOG_DOCKER_ENV_CONFIG"value: "true"- name: "ALICLOUD_LOG_ECS_FLAG"value: "false"- name: "ALICLOUD_LOG_DEFAULT_PROJECT"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: log-project- name: "ALICLOUD_LOG_ENDPOINT"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: log-endpoint- name: "ALICLOUD_LOG_DEFAULT_MACHINE_GROUP"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: log-machine-group- name: "ALIYUN_LOG_ENV_TAGS"value: "_node_name_|_node_ip_"- name: "_node_name_"valueFrom:fieldRef:fieldPath: spec.nodeName- name: "_node_ip_"valueFrom:fieldRef:fieldPath: status.hostIP# resource limit for logtail self process- name: "cpu_usage_limit"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: cpu-core-limit- name: "mem_usage_limit"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: mem-limit- name: "max_bytes_per_sec"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: max-bytes-per-sec- name: "send_request_concurrency"valueFrom:configMapKeyRef:name: alibaba-log-configurationkey: send-requests-concurrencyvolumeMounts:- name: sockmountPath: /var/run/- name: rootmountPath: /logtail_hostreadOnly: truemountPropagation: HostToContainerterminationGracePeriodSeconds: 30tolerations:- operator: "Exists"hostNetwork: truednsPolicy: "Default"volumes:- name: sockhostPath:path: /var/run/- name: roothostPath:path: /3.應(yīng)用YAML配置,創(chuàng)建ConfigMap和DaemonSet。
$ kubectl apply -f alicloud-log-config.yaml configmap/alibaba-log-configuration created $ kubectl apply -f logtail-daemonset.yaml daemonset.apps/logtail-ds created4.等待1分鐘,檢查DeamonSet是否正常運(yùn)行
$ kubectl get -f logtail-daemonset.yaml這個(gè)時(shí)候控制臺(tái)應(yīng)該打印出類似以下的消息,代表安裝成功
NAME DESIRED CURRENT READY UP-TO-DATE AVAILABLE NODE SELECTOR AGE logtail-ds 3 3 3 3 3 <none> 2m1s上報(bào)日志并查看
1.創(chuàng)建一個(gè)用于持續(xù)生成日志的Pod。
$ vim demo-pod.yaml在Vim中粘貼如下內(nèi)容并保存(注意,可能需要修改注釋中提示的字段,8-9行)。
apiVersion: v1 kind: Pod metadata:labels:name: demo-podname: demo-pod spec: # imagePullSecrets: # Comment out to enable specific image pull secret # - name: myregistrykey # repleace it to specific registry key containers containers:- image: busyboximagePullPolicy: IfNotPresentname: demo-podcommand: ["/bin/sh"]args: ["-c", "while true; do echo $(date) >>/tmp/demo.log; sleep 10; done"]resources: {}securityContext:capabilities: {}privileged: falseterminationMessagePath: /dev/termination-logdnsPolicy: ClusterFirstrestartPolicy: Always應(yīng)用YAML配置,創(chuàng)建Pod
$ kubectl apply -f demo-pod.yaml pod/demo-pod created2.回到Web控制臺(tái),點(diǎn)擊配置完成界面的“查詢?nèi)罩尽碧D(zhuǎn)到日志查詢界面。點(diǎn)擊頁面左側(cè)的“放大鏡”圖標(biāo),選中l(wèi)ogstore,點(diǎn)擊“眼睛”圖標(biāo),在左側(cè)出現(xiàn)的“消費(fèi)預(yù)覽”側(cè)邊欄中嘗試調(diào)整Shard和時(shí)間范圍,點(diǎn)擊預(yù)覽查看上報(bào)的日志。
What's Next
你可以進(jìn)入下一節(jié)學(xué)習(xí)《ilogtail使用入門-iLogtail本地部署方案》
了解容器采集原理《通過DaemonSet-控制臺(tái)方式采集容器標(biāo)準(zhǔn)輸出》
也可以學(xué)習(xí)ilogtail采集的更多用法:
- 通過DaemonSet-控制臺(tái)方式采集容器文本日志
- 采集容器日志
- 如何獲取容器的Label和環(huán)境變量
原文鏈接
本文為阿里云原創(chuàng)內(nèi)容,未經(jīng)允許不得轉(zhuǎn)載。?
?
創(chuàng)作挑戰(zhàn)賽新人創(chuàng)作獎(jiǎng)勵(lì)來咯,堅(jiān)持創(chuàng)作打卡瓜分現(xiàn)金大獎(jiǎng)總結(jié)
以上是生活随笔為你收集整理的iLogtail使用入门-K8S环境日志采集到SLS的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 小程序下一破局点?钉钉小程序卡片,应用与
- 下一篇: 阿里云ECI如何6秒扩容3000容器实例