免费企业网络推广网站,吉林市做网站,oa系统办公软件排名,山东再发紧急通知简介#xff1a; 在云原生时代#xff0c;充分利用边缘节点的计算和存储能力#xff0c;结合冷热数据分离实现高性价比的数据价值探索已经逐渐成为 APM 领域的主流。
作者#xff1a;夏明#xff08;涯海#xff09; 调用链记录了完整的请求状态及流转信息#xff0c;是…简介 在云原生时代充分利用边缘节点的计算和存储能力结合冷热数据分离实现高性价比的数据价值探索已经逐渐成为 APM 领域的主流。
作者夏明涯海 调用链记录了完整的请求状态及流转信息是一座巨大的数据宝库。但是其庞大的数据量带来的成本及性能问题是每个实际应用 Tracing 同学绕不开的难题。如何以最低的成本按需记录最有价值的链路及其关联数据是本文探讨的主要话题。 核心关键词是边缘计算 冷热数据分离。 如果你正面临全量存储调用链成本过高而采样后查不到数据或图表不准等问题请耐心读完本文相信会给你带来一些启发。 边缘计算记录更有价值的数据 边缘计算顾名思义就是在边缘节点进行数据计算赶时髦的话也可以称之为“计算左移”。在网络带宽受限传输开销与全局数据热点难以解决的背景下 边缘计算是寻求成本与价值平衡最优解的一种有效方法。 Tracing 领域最常用的边缘计算就是在用户进程内进行数据过滤和分析。而在公有云环境用户集群或专有网络内部的数据加工也属于边缘计算这样可以节省大量的公网传输开销并分散全局数据计算的压力。 此外从数据层面看边缘计算一方面可以筛选出更有价值的数据另一方面可以通过加工提炼数据的深层价值以最小的成本记录最有价值的数据。 筛选更有价值的数据 链路数据的价值分布是不均匀的。 据不完全统计调用链的实际查询率小于百万分之一。全量存储数据不仅会造成巨大的成本浪费也会显著影响整条数据链路的性能及稳定性。如下列举两种常见的筛选策略。 基于链路数据特征进行调用链采样上报Tag-based Sampling。 比如错/慢调用全采特定服务每秒前N次采样特定业务场景自定义采样等。下图展示了阿里云 ARMS 自定义采样配置页面用户可以根据自身需要自由定制存储策略实际存储成本通常小于原始数据的 5%。异常场景下自动保留关联数据现场。 我们在诊断问题根因时除了调用链之外还需要结合日志、异常堆栈、本地方法耗时、内存快照等关联信息进行综合判断。如果每一次请求的关联信息全都记录下来大概率会造成系统的崩溃。因此 能否通过边缘计算自动保留异常场景下的快照现场是衡量 Tracing 产品优劣的重要标准之一。 如下图所示阿里云 ARMS 产品提供了慢调用线程剖析内存异常 HeapDump 等能力。无论哪种筛选策略其核心思想都是 通过边缘节点的数据计算丢弃无用或低价值数据保留异常现场或满足特定条件的高价值数据。 这种基于数据价值的选择性上报策略性价比远高于全量数据上报未来可能会成为 Tracing 的主流趋势。 提炼数据价值 除了数据筛选在边缘节点进行数据加工比如预聚合和压缩同样可以在满足用户需求的前提下有效节省传输和存储成本。
预聚合统计在客户端进行预聚合的最大好处 就是在不损失数据精度的同时大幅减少数据上报量。 比如对调用链进行 1% 采样后仍然可以提供精准的服务概览/上下游等监控告警能力。数据压缩对重复出现的长文本如异常堆栈SQL 语句进行压缩编码也可以有效降低网络开销。结合非关键字段模糊化处理效果更佳。冷热数据分离低成本满足个性化的后聚合分析需求 边缘计算可以满足大部分预聚合分析场景但是无法满足多样化的后聚合分析需求比如某个业务需要统计耗时大于3秒的接口及来源分布这种个性化的后聚合分析规则是无法穷举的。而当我们无法预先定义分析规则时貌似就只能采用成本极高的全量原始数据存储。难道就没有优化的空间么答案是有的接下来我们就介绍一种低成本解决后聚合分析问题的方案——冷热数据分离。 冷热数据分离方案简述 冷热数据分离的价值基础在于用户的查询行为满足时间上的局部性原理。 简单理解就是最近的数据最常被查询冷数据查询概率较小。例如由于问题诊断的时效性50% 以上的链路查询分析发生在 30分钟内7天之后的链路查询通常集中在错慢调用链。理论基础成立接下来讨论如何实现冷热数据分离。 首先热数据存在时效性如果只需记录最近一段时间内的热数据对于存储空间的要求就会下降很多。另外在公有云环境下不同用户的数据天然具备隔离性。因此在用户 VPC 内部的热数据计算和存储方案就具备更优的性价比。 其次冷数据的查询具备指向性可以通过不同的采样策略筛选出满足诊断需求的冷数据进行持久化存储。例如错慢采样特定业务场景采样等。由于冷数据存储周期较长对稳定性要求较高可以考虑在 Region 内统一管理。 综上所述热数据存储周期短成本低但可以满足实时全量后聚合分析需求而冷数据经过精准采样后数据总量大幅下降通常只有原始数据量的 1% ~10%并可以满足大多数场景的诊断诉求。两相结合实现了成本与体验的平衡最优解。国内外领先的 APM 产品如 ARMS、Datadog、Lightstep 均采用了冷热数据分离的存储方案。 热数据实时全量分析 链路明细数据包含了最完整最丰富的的调用信息APM 领域最常用的服务面板、上下游依赖、应用拓扑等视图均是基于链路明细数据统计得出。基于链路明细数据的后聚合分析可以根据用户个性化需求更有效的定位问题。但是后聚合分析的最大挑战是要基于全量数据进行统计否则会出现样本倾斜导致最终结论离实际相差甚远。 阿里云 ARMS 作为 2021 年 Gartner APM 魔力象限中国唯一入选云厂商提供了 30分钟内热数据全量分析的能力可以实现各种条件组合下的过滤与聚合如下图所示 冷数据持久化采样分析 全量调用链的持久化存储成本非常高而前文提到 30分钟后调用链的实际查询率不足百万分之一并且大多数的查询集中在错慢调用链或满足特定业务特征的链路相信经常排查链路问题的同学会有同感。因此我们应该只保留少量满足精准采样规则的调用链从而极大的节省冷数据持久化存储成本。 那么精准采样应该如何实现呢业界常用的方法主要分为头部采样Head-based Sampling和尾部采样Tail-based Sampling两种。头部采样一般在客户端 Agent 等边缘节点进行例如根据接口服务进行限流采样或固定比例采样而尾部采样通常基于全量热数据进行过滤如错慢全采等。 最理想的采样策略应该只存储真正需要查询的数据APM 产品需要提供灵活的采样策略配置能力与最佳实践用户结合自身业务场景进行自适应的调整。 结语 当越来越多的企业和应用上云公有云集群规模爆发式增长“成本”将是企业用云的关键衡量因素。而在云原生时代充分利用边缘节点的计算和存储能力结合冷热数据分离实现高性价比的数据价值探索已经逐渐成为 APM 领域的主流。全量数据上报、存储、再分析这种传统方案将面临越来越大的挑战。未来会如何让我们拭目以待。
原文链接 本文为阿里云原创内容未经允许不得转载。
