ELK系列~NLog.Targets.Fluentd到达如何通过tcp发到fluentd

最近火的不能再火的日志框架就是ELK，其中E（Elasticsearch）表示日志存储，L（Logstash）表示日志收集，K（kibana）表示日志的UI界面，用来查询和分析，而其中的L可以使用Fluentd来代替，并且以上架构都可以通过docker来进行快速的部署。

它们的工作流程

fluentd系统有输入和输出，输入对应我们的应用程序，输出对应咱们的ES存储系统，在.net平台上，如果希望把日志发到fluentd，有三种方式，下面分别简单说一下：

1. http方式
2. tcp方式
3. 客户端c/s方式

一 http方式

构建一个共享的httpclient对象，然后声明为keep-alive，使用keep-alive可以改善这种状态，即在一次TCP连接中可以持续发送多份数据而不会断开连接。通过使用keep-alive机制，可以减少tcp连接建立次数，也意味着可以减少TIME_WAIT状态连接，以此提高性能和提高httpd服务器的吞吐率(更少的tcp连接意味着更少的系统内核调用,socket的accept()和close()调用)。

fluentd配置：

<source>
    @type http
    port
    bind 0.0.0.0
  </source>

C#代码：

                    var json = JsonConvert.SerializeObject(new
                    {
                        target_index = projectName,
                        timestamp = DateTime.Now.ToUniversalTime().ToString("yyyy-MM-ddTHH:mm:ss.fffZ"),
                        Level = level.ToString(),
                        Message = message,
                        StackTrace = ex?.StackTrace
                    });
                    json = json.Replace("target_index", "@target_index").Replace("timestamp", "@timestamp");
                    var httpContent = new StringContent(json, Encoding.UTF8);
                    httpContent.Headers.ContentType = new MediaTypeHeaderValue("application/json");
                    httpClient.PostAsync(apiLoggerUrl, httpContent).Wait();

二 tcp方式

tcp方式比http要复杂一些，在fluentd配置时也需要注册，在性能上优于http，目前NLog.Targets.Fluentd这个框架对它进行了集成，但说明文档不是很清楚，大叔经过测试也已经成功实现了tcp的日志记录，需要注意的地方就是fluentd在接受tcp时，需要有一个结果标示，默认是\n，在客户端发送请求时需要在数据包结尾添加它。

NLog.Targets.Fluentd在github上的地址：

https://github.com/fluent/NLog.Targets.Fluentd

fluentd配置：

  <source>
    @type tcp
    tag pilipa
    format /^(?<field1>\d+):(?<field2>\w+)$/
    port
    bind 0.0.0.0
  </source>
  <match **>
    @type stdout
  </match>

客户端调用

          var fluentdTarget = new NLog.Targets.Fluentd()
            {
                Host = "192.168.200.214",
                Port = ,
                Tag = "pilipa",
                LingerEnabled = false,
                NoDelay = true,
                EmitStackTraceWhenAvailable = false,
            };
            LoggingConfiguration config = new LoggingConfiguration();
            config.AddRuleForOneLevel(LogLevel.Info, "fluentd");
            LogManager.Configuration = config;
            Logger logger = LogManager.GetLogger("Example");
            logger.Info(json + "\n"); //这是必须的，看到\n表示数据包结束
            Console.Read();

然后在我们的fluentd上就可以看到日志了。

三 客户端c/s方式

目前正在研究，客户端驱动地址：https://docs.fluentd.org/v0.12/articles/windows#set-up-nxlog-on-windows