引言

全链路观测平台设计离不开基础数据的采集、提炼和呈现。本文就基础数据日志、指标、链路的采集原理进行梳理，如何将其关联最终提供辅助决策价值提点归纳。

一、数据采集

1.日志架构简图

统一日志： 标准化日志格式、链路ID透传、自定义检索标识

日志类型： 应用日志、中间件日志(RPC框架、消息、缓存、存储等)、网关日志、终端日志

收集策略： 例如根据IP、APP、文件等灵活管控，不同日志分类管理

数据清洗： 清洗重复非标准数据、重复数据、聚合高质量数据

存储数据： 区分哪些数据适合ES、哪些数据适合ClickHouse、哪些数据适合时序库

性能成本： 延迟问题、查询性能、存储成本

小结： 通过标准化的日志格式，多样化的收集策略，清洗成高质量数据为根因定位提供基础保障。

2.链路架构简图

采样策略

• 固定采样率：保持固定采样的频率
• 最低采样率：过低流量保证最低的采样率
• 自适应采样率：根据流量自动适应采样率
• 全部采样率：对应特高优先流量100%采样
• 染色采样：对于染色打标的请求100%采样
• 应急采样：请求传递过程中检测到错误或者异常，强制将该请求采样

动态设置

• 采样率采样策略动态调整
• 自杀熔断保护 不允许过度占用资源影响业务

小结： 链路采集和分析关键的点在于如何提供灵活的采样策略，将核心链路、异常链路能实现高质量采集。

二、数据关联

1.横向关联

横向关联：应用为维度通过调用关系将上下游关联，包括经过的网关、缓存(Redis等)、消息(RocketMQ、Kafka等)、存储资源(MySQL、Hbase、Mongo、ES等)。

指标(metrics)：监控变化趋势以及基于趋势变化告警 如Micrometer，Prometheus格式指标数据的错误率变化

链路(Tracing): 微服务记录上下游服务调用与耗时，基于OpenTracing 和 OpenTelemetry 规范，例如 Jaeger

日志(Logging)：日志采集，通过日志详细问题溯源

小结： 通过Tracing将Metrics和Logging进行关联，当指标波动触发告警能否智能关联的tracing，寻根通过Logging错误日志找出根因，为业务提供辅助决策。

2.纵向关联

垂直关联：应用维度包含依赖的容器、机器、CPU、带宽、磁盘、内存、消息资源(主题和消费组、集群)、缓存资源、数据库资源(表与实例等)、搜索资源(索引等)指标关联一站式展现。

三、辅助决策

1.数据质量

指标埋点覆盖度

链路采样策略的多样性

日志清洗与提炼

2.告警质量

告警信息能包含从指标到链路以及日志的清晰关联与日志信息，提高决策能力

3.分析能力

沉淀问题分析的最佳实践库，将其自动化分析提升定位能力

4.自愈能力

基于分析能力，沉淀自愈策略

自愈策略的灵活配置

5.性能与稳定性

采集延迟、计算能力、查询性能

可视化观测平台自身的稳定性建设

6.可视化能力

可观测一站式

丰富图表与报表

7.预测能力

基于历史数据沉淀算法模型预测未来可能发生的问题