Skip to main content

故障根因报告解读之：CPU篇

· 9 min read
Kindling-OriginX
Kindling-OriginX
故障根因推理引擎

本系列文章将以云原生环境下分布式系统的不同类型故障入手，从真实系统出发，分别以不同类型的故障为例，对故障根因报告进行介绍和解读。

本篇将通过实际案例对故障根因报告进行解读。将会使用开源模拟故障案例集系统 soma-chaos 作为故障注入平台，在 Kindling-OriginX 在线Demo上进行故障报告的解读，可以通过点击阅读全文进入 Kindling-OriginX 官方网站，实际体验故障注入和 Kindling-OriginX 的故障根因推理能力。

报告解读​

  • 在 ts-order-service 中注入故障：运行额外任务抢占Pod可用的CPU资源。

    注入完成后稍等片刻，进入 Kindling-OriginX 的「服务健康检测诊断」页面，在「SLO实时异常检测」Tab页下我们可以看到 ts-order-service 涉及的服务入口出现 SLO 告警。 SLO告警

  • 在这里可以看到目前异常根因节点占比 ts-order-service 和 ts-seat-service 各占一半，他们都处于报警服务入口调用链路中。具体情况我们通过诊断报告详细展开。

    进入故障列表后也可以看到，这里分别有ts-seat-service和ts-order-service两个节点的多份故障报告，同时已经做了聚合。 故障报告列表 点击ts-seat-service的TraceID后进入该节点最新的故障报告。一份故障根因诊断报告有部分内容及多种相关Log、Trace、Metrics数据聚合分析而成，这里分别简单介绍。

  • 诊断报告概要。包括TraceID、故障发生时间、请求耗时、耗时对比信息等基本信息。 诊断报告概要

  • 单次调用链路信息。故障链路的调用详细信息及耗时信息。 单次调用链路信息

  • 故障根因。即该故障报告的最终结论信息及建议处置方法。该报告显示故障根因并不在 ts-seat-service 处，判定根因节点在下游服务处。接下来在对报告中关联的各类指标介绍过程中简要说明为什么会得到这个故障根因结论。 故障根因

  • 故障节点分析。报告中会对响应时间与历史基线进行比对，同时自动关联异常时间段的日志信息，无需再去通过其他手段查找。 故障节点分析

  • 接口执行耗时分析。这部分报告会对本次调用的北极星排障指标与历史基线值进行比对。主要包括CPU时间、网络时间、等待时间、其他时间（主要为存储时间等）。这里可以看到本次调用耗时最长的是网络时间 183.35ms，而且远超历史基线值。分析到这里往往会认为该服务可能存在网络问题。接下来我们对该指标继续下钻，对网络层面的指标进行更加深入地钻取。 接口执行耗时分析

  • 对外调用具体信息。 对外调用具体信息

  • 请求网络耗时详细分析。这部分报告针对网络指标进行了更加详细的拆分和数据钻取，对广义上的网络耗时进行的更细致的分析，为判定网络是否出现问题提供更有说服力的证据。 请求网络耗时详细分析

  • 网络质量指标。同时 Kindling-OriginX 会对整体的网络质量进行分析，即结合分段的网络时间和网络质量来综合判定网络耗时长是由于网络问题还是由于其他问题导致。所以在本例中分析后得出的故障根因结论为下游服务可能出现问题 网络质量指标

  • 接下来继续分析ts-order-service的故障根因报告。同样打开一份ts-order-service的诊断报告。故障根因显示：Runq耗时高，存在CPU抢占。从接口执行耗时分析中也可以看到，runq耗时占比最大，耗时180.27ms。根据这份报告，先来解释下什么是runq。

    runq(Run Queue Latency) 是一项描述操作系统性能、稳定性的重要指标，它描述了线程从进入就绪态到运行态的等待时间。CPU runqueue是一个表示等待CPU时间的概念。它是一个系统的活动队列，用于存储正在等待CPU资源的进程。当一个进程请求CPU资源时，它会被添加runqueue，等待CPU分配时间片。

    ts-order-service的故障根因报告 ts-order-service接口执行耗时分析

  • 结合runq的定义和 Kindling-OriginX 给出的根因报告，我们可以得到的结论是ts-order-service节点 CPU资源不足。

    到目前为止，报告解读完成，目前根据得到故障报告可以得到两个结论，分别是：

    1. ts-seat-service 网络指标正常，但网络耗时高，可能为下游节点故障。

    2. ts-order-service CPU资源不足。

级联故障处理​

  • 在微服务系统中，任何单一故障往往都会以级联故障的形式表现出来，在该例子中即为ts-seat-service 和 ts-order-service 都发生了故障。从调用链路图中可以看到，ts-seat-service 是ts-order-service的上游节点。结合目前的结论和调用链路图，可以判定出ts-seat-service的调用慢非常有可能是由于ts-order-service慢导致的，根据级联故障处置优先级原则，应当优先解决被依赖节点的故障及ts-order-service。

    服务拓扑图

  • 在 ts-order-service 的故障根因报告中显示「Runq耗时高，存在CPU抢占」即表明该节点CPU资源不足，执行业务过程中耗费了大量的时间等待CPU资源。即CPU资源被我们注入的故障「运行额外任务抢占Pod可用的CPU资源」所抢占，导致链路中的请求在此处产生大量的等待，所以同时也会看到ts-seat-service的网络调用变慢，因为ts-seat-service的下游服务有锁。

小结​

故障根因报告在 Kindling-OriginX 中扮演着重要的角色，它综合分析和展示了各种分散的Log、Trace、Metrics数据，结合专家经验自动完成关联聚合，避免了可能的信息断片和数据交叉误解，真正做到了从表面现象到深层次原因的逐步剖析。通过直观的报告展示方式，以全新的思路为故障排查定位以及故障根因的确定提供更加高效和便捷的解决方案，为实现分钟级定位级联故障，落地 1-5-10 故障响应机制提供一条可行之路。