NCC Mocha v0.10 发布， .NET 开发的基于 OpenTelemetry 的 APM 系统

项目简介
项目进度
v0.10 发布内容
项目背景
平台功能
技术架构
v0.10 快速体验

项目简介

Mocha 是一个基于 .NET 开发的 APM 系统，同时提供可伸缩的可观测性数据分析和存储平台。

项目地址：https://github.com/dotnetcore/mocha

注意：使用 git clone --recursive 克隆本仓库以及子模块。

项目进度

目前项目处于早期阶段，已经完成了对 Trace 的基础支持，可以通过 OTel SDK 上报数据到 Mocha Distributor，然后通过 Grafana 展示。

v0.10 发布内容

支持 OTel Trace 数据上报
支持通过 Grafana 展示 Trace 数据
提供 Docker Compose 本地体验方案

项目背景

近年来，可观测性概念被提出和逐渐流行，OpenTelemetry 也逐渐成为最流行的可观测性框架，OTel 很好的解决了多语言系统中Metrics\Trace\Log 的收集和标准化问题，但对于如何存储和分析使用收集到的 M.T.L 数据，业界并没有统一的方案，一般来说大家需要

使用 Jaeger、Prometheus、Loki 等不同的后端系统搭配，但引入了相当的复杂度
或者引入 SkyWalking 、ElasticAPM 等 APM 系统
或者使用 Datadog、SLS 等 SaaS 可观测性平台，需要支付昂贵的流量和数据存储费用

同时上述提到的开源 APM 后端，除 SkyWalking [Java实现]外，其余无一例外使用 Golang 实现。

而从 .NET 5 以来，到目前的 .NET 8，每一个版本都对 CLR 和 BCL做了大量性能优化和提供了面向高性能场景的新语言特性，.NET 的演进很适合开发高性能的云原生中间件。所以我们发起 mocha 项目，使用 .NET 实现一个面向大规模可观测性数据分析和存储的平台。

平台功能

Mocha 将要提供的功能集合：

APM 和分布式追踪
- 服务概览、R.E.D 指标和可用性监控
- 服务拓扑
- 调用监控，包括 HTTP、RPC、Cache、DB、MQ 等
- 调用链路查询和检索
基础设施监控
- 主机监控
- 容器和 Kubernetes 监控
- 主流中间件监控
日志
- 日志查询
- 日志聚合分析
报警
- 报警规则管理
- 报警通知
M.T.L 数据探索 [Data Explore / Inspect]

技术架构

Mocha 整体架构由下面的部分组成

Mocha Distributor Cluster：作为 mocha 系统的数据入口，负责接收 OTel SDK 和 Collector 上报的数据，并通过一致性Hash 将数据路由到对应的 aggregator 节点上。为了保证数据不丢失，最终 Distributor 应该具备本地 FIFO 队列的能力。
Mocha Streaming Cluster：mocha 的核心组件，通过读取预配置或者用户配置的 aggr rule dsl 生成对应的 streaming data flow 并执行。Streaming 是具备分布式 shuffle 的能力的有状态组件，需要将自身信息注册到ETCD中。
Storage：mocha M.T.L 存储，可以选用开源存储组件，如 ClickHouse、ElasticSearch、victoriametrics 等。
Mocha Querier + Grafana: 从存储查询数据并提供给 grafana 做展示。因此要兼容 promql / jeager / loki 等数据源的查询。
Mocha Manager : 包括 manager server、dashboard和ETCE组件，集群元数据和 M.T.L 数据分析规则存储。
OTel SDK / Collector : 开源 OpenTelemetry 采集套件。

v0.10 快速体验

启动项目

在项目根目录下的docker目录中，执行以下命令启动项目：

docker-compose up -d

启动成功后，可以看到以下容器：

distributor: 提供用于接收 OTLP 数据的 gRPC API
jaeger-query: 提供用于接收 Jaeger 查询协议的 HTTP API
mysql: 用于存储数据
grafana: 用于展示数据

Trace 数据的发送

将 SDK 的 OTLP exporter 配置为 http://localhost:4317 即可将数据发送到 distributor。

配置 Jaeger 数据源

我们实现了支持 Jaeger 查询协议的 API，因此可以直接在 Grafana 中配置 Jaeger 数据源。

访问 http://localhost:3000/ 即可看到grafana的登录页面。用户名和密码都是admin。

登录后，点击左侧的菜单，选择 Data Sources，然后点击 Add data source。

选择 Jaeger。

配置 Jaeger 数据源的 URL 为 http://jaeger-query:5775。

点击 Save & Test，如果显示如下信息，则说明配置成功。

如果还没往 distributor 发送过数据，会显示如下警告信息。

Trace 数据的查询

点击左侧的菜单，选择 Explore，然后选择 Jaeger 数据源，即可看到 Trace 数据。