阿里云日志服务采集自建Kubernetes日志(标准输出日志)

日志服务支持通过Logtail采集Kubernetes集群日志，并支持CRD（CustomResourceDefinition）进行采集配置管理。本文主要介绍如何安装并使用Logtail采集Kubernetes集群日志。

采集流程

安装alibaba-log-controller Helm包。
创建采集配置。
根据您的需求选择使用控制台或CRD（CustomResourceDefinition）创建采集配置，本文以控制台为例。

图 1. 采集流程

视频教程：http://cloud.video.taobao.com/play/u/3220778205/p/1/e/6/t/1/50145086346.mp4

步骤1 安装软件包

登录您的阿里云容器服务Kubernetes的Master节点。

如何登录参考SSH密钥对访问Kubernetes集群。

替换参数后执行以下安装命令。

将下述命令中的 ${your_k8s_cluster_id}替换为您的Kubernetes集群ID，并执行此命令。

试用

 wget http://logtail-release-cn-hangzhou.oss-cn-hangzhou.aliyuncs.com/kubernetes/alicloud-log-k8s-install.sh -O alicloud-log-k8s-install.sh; chmod 744 ./alicloud-log-k8s-install.sh; sh ./alicloud-log-k8s-install.sh ${your_k8s_cluster_id}

安装示例

执行安装命令，回显信息如下：

试用



[root@iZbp******biaZ ~]# wget http://logtail-release-cn-hangzhou.oss-cn-hangzhou.aliyuncs.com/kubernetes/alicloud-log-k8s-install.sh -O alicloud-log-k8s-install.sh; chmod 744 ./alicloud-log-k8s-install.sh; sh ./alicloud-log-k8s-install.sh c12ba20**************86939f0b

....

....

....

alibaba-cloud-log/Chart.yaml

alibaba-cloud-log/templates/

alibaba-cloud-log/templates/_helpers.tpl

alibaba-cloud-log/templates/alicloud-log-crd.yaml

alibaba-cloud-log/templates/logtail-daemonset.yaml

alibaba-cloud-log/templates/NOTES.txt

alibaba-cloud-log/values.yaml

NAME: alibaba-log-controller

LAST DEPLOYED: Wed May 16 18:43:06 2018

NAMESPACE: default

STATUS: DEPLOYED

RESOURCES:

==> v1beta1/ClusterRoleBinding

NAME AGE

alibaba-log-controller 0s

==> v1beta1/DaemonSet

NAME DESIRED CURRENT READY UP-TO-DATE AVAILABLE NODE SELECTOR AGE

logtail 2 2 0 2 0  0s

==> v1beta1/Deployment

NAME DESIRED CURRENT UP-TO-DATE AVAILABLE AGE

alibaba-log-controller 1 1 1 0 0s

==> v1/Pod(related)

NAME READY STATUS RESTARTS AGE

logtail-ff6rf 0/1 ContainerCreating 0 0s

logtail-q5s87 0/1 ContainerCreating 0 0s

alibaba-log-controller-7cf6d7dbb5-qvn6w 0/1 ContainerCreating 0 0s

==> v1/ServiceAccount

NAME SECRETS AGE

alibaba-log-controller 1 0s

==> v1beta1/CustomResourceDefinition

NAME AGE

aliyunlogconfigs.log.alibabacloud.com 0s

==> v1beta1/ClusterRole

alibaba-log-controller 0s

[SUCCESS] install helm package : alibaba-log-controller success.

您可以使用helm status alibaba-log-controller查看Pod当前状态，若状态全部成功后，表示安装成功。

安装成功后，日志服务会自动为您创建k8s-log开头的Project，在日志服务控制台搜索k8s-log关键字即可查看。

步骤2 创建采集配置

在该步骤中为您演示如何使用控制台创建Logstore并采集K8S所有容器的stdout标准输出。

进入Logstore列表。

单击步骤1中自动创建的Project，进入Logstore列表页面。
创建Logstore。
单击右上角的创建按钮，在弹出的页面中创建一个Logstore。图 2. 创建Logstore
创建采集配置。
1. 创建Logstore后，根据提示进入数据接入向导。
2. 选择自建软件中的Docker标准输出。
  在配置页面中直接单击下一步。无需做任何修改，即可实现采集所有容器的stdout文件。
  
  图 3. Docker标准输出
将配置应用到机器组。
在机器组配置页面，勾选机器组并单击下一步。图 4. 应用到机器组

数据采集配置已经完成，如您需要配置索引和数据投递，请根据页面提示在后续步骤中填写配置。您也可以直接退出当前页面，结束配置。

查看采集到的日志数据

完成数据采集配置后，若您的集群中有容器在输入stdout，则一分钟后即可采集到stdout日志。在 Logstore列表页面中单击预览可以快速预览当前采集到的日志数据；或者单击查询对采集到的日志数据进行自定义查询和分析。图 5. 预览和查询

如下图所示，查询页面中可直接单击日志中的关键字进行快速查询，也可以再查询输入框中输入指定的关键字进行查询。

图 6. 查询日志

实例配置：

{

  "inputs": [

    {

      "detail": {

        "IncludeLabel": {

          "io.kubernetes.pod.namespace": "data-infra"

        },

        "ExcludeLabel": {}

      },

      "type": "service_docker_stdout"

    }

  ]

}