27 posts tagged with "了解Kindling-OriginX"

线上故障通常是指影响线上服务可用性的问题或者事件，包括服务性能的降低、出现影响用户体验的问题、不同程度的服务不可用等。为了确保服务稳定性和用户体验，线上排障的第一目标是恢复线上服务或者降低影响。随着技术的发展，产生了诸如Google、Amazon、Twitter、淘宝、得物、字节等新兴互联网公司，其业务体量大，系统复杂程度高，时时刻刻服务成千上百万的用户，这都对故障处理的能力和及时性都提出了更高的要求。本文对互联网公司线上故障标准化排障流程做一简单分析，总结一些肤浅的方法论，以求共同探讨，共同提高。

故障处理目标​

故障管理的目标是“尽快恢复服务到正常运行，并且最小化对业务运营的不利影响，从而尽可能地保证服务质量和可用性的水平”，即所谓的止血。即使不能立刻完全恢复，也要想办法将其影响降到最低，迅速止血。所以往往重启服务、扩容、降级、熔断等方法都是在紧急情况下首先想到的方法，先试试再说，之后再彻查问题，从根本上解决问题。

实际工作中，找到了问题的根因原因，解决问题之后，并不代表本次处置就完成了。对于任何一个故障，其真正的处理目标应该是两方面，一方面尽快恢复服务，完成止血；另一方面要及时复盘总结，举一反三，不断完善流程处理机制，弥补操作过程中的规范问题，形成报告，在公司层面分享总结经验，提高应对能力的同时也要能够减少同类故障的发生。

故障处理思路​

线上故障处理的目标是最快速度恢复线上服务或者降低对线上服务的影响，“快速”是对其最基本的要求之一，所以要要求故障发生时候需要能够最短时间发现，发现后要能最快对其进行评估和分类，同时根据评估结果能够充分调动各方资源最短时间内制定出可执行的应对方案，同时在整个处置过程中也都需要运维、业务研发、产品、基础设施等多团队互相协作，保持高效的沟通。基本的处理思路如下：

故障识别与告警​

线上故障一般通过多种途径传递到开发、运维团队中，例如主动巡检发现，各纬度各类型监控告警，关联故障追溯，生产事件上报。首先需要对上报的信息判定是个例问题，还是确实是线上故障。以主动发现为根本建设目标，例如可观测性建设的目标和价值体现就是能够将故障主动、及早发现和定位。

故障评估与分类​

针对识别出的问题，进行严重性评估，判断问题的影响范围和严重性。根据评估结果，将问题进行分类，设定问题处理的优先级，同时通知各相关业务、技术部门人员故障情况，准备参与排查。进行评估分类需要多维度的数据支撑，往往缺失数据或存在盲区时更多依赖人员经验和能力。

故障定位与分析​

确定故障后，需要快速定位到问题点，找到原因，以便针对性的采取合适的应对方案。在这过程中需要该故障涉及到的业务、开发、运维人员各负其责，分析系统日志，查找错误信息和异常行为，收集与问题相关的数据，如流量统计、错误率等，为问题解决提供依据。

该阶段是排障过程中最关键的阶段，往往无法估计具体时间，具体步骤往往也根据业务种类、问题表征、可观测性建设成熟度、团队能力等不同而有所差异，现阶段难以进一步标准化，所以也导致该阶段也是最难得一步。

这里举一个简单的例子，排查中往往是排查三板斧：模拟复现，找相关数据，分析完整请求链路。这其中找相关数据需要在各个可观测性工具里找到相关的数据，并将其关联，这是一个非常复杂且耗费时间的任务。同时，需要将这些数据，与其对应的 Trace 数据相对应，才能尽可能真实地还原出问题现场。但实际生产环境下，Trace数据茫茫多，人工分析几乎不可能，这也是为什么经常会重启服务、扩容、降级先试试看的原因。

故障排除与管理​

根据问题定位和分析结果，制定相应的行动措施，执行对应的预案或采取合适的措施修复问题。同时在解决问题时，也需要遵循变更管理流程，确保每一步更改都有记录，以免派生出新的故障。

故障验证​

在完成恢复或修复操作后，进行必要的测试，查看相应的监控指标数据，确保问题已经解决。同时恢复服务后，继续监控以确保系统稳定。将信息同步反馈到各干系人，如有需要，配合业务方完成故障期间受损的数据。

故障复盘​

一般在故障处理结束后24小时内产出故障报告，包括故障过程回顾、故障原因分析、改进预防措施制定、故障定级等。故障定级分为P0、P1、P2和P3四个等级（依次降低），各公司都有特定的等级定义，主要从业务影响面和影响时间来确定。一些团队或公司会总结故障知识库，作为排障知识的传递方式，以期保证人员能力和经验能够进行复制。

排障流程的标准化​

排障流程的标准化是指将故障处理的各个环节规范化、流程化，以确保在面对系统或服务故障时，团队能够快速、有效地采取行动。

通过对故障处理思路的总结，可以看到排障流程标准化存在的主要问题一方面是故障定位和分析难以快速完成，同时也无法标准化；另一方面人员能力和经验的差异也导致标准化处理的过程在很多团队难以落地。

相关案例​

下面以一些互联网公司的故障处理流程为例以供参考，图片和资料均来自于网络。

得物容器SRE响应流程​

有赞故障处理流程​

美团大数据运维故障处理流程​

标准化排障流程需要体系和工具支撑​

从上面的案例可以看到，标准化排障流程需要一套完整的体系支撑，以确保流程的顺利执行和持续优化。以下是构建支撑体系的几个关键要素：

1. 技术工具​

• 成熟的可观测性体系：建立成熟完善的可观测性体系，能够确保尽早发现问题，同时排障过程中能够覆盖尽可能多的数据，以期最大限度消除观测盲区。

• 故障响应平台：能够对故障生命完整生命周期进行追踪，同时对各类指标数据进行治理，在故障时刻提炼相关联的数据，帮助处理人员聚焦核心指标。

• 知识库：建立和维护故障知识库，用于存储故障案例、解决方案和预防措施，为各类问题提供可执行的预案。

2. 流程文档​

• 标准化手册：制定能够对于不同类型的故障能够统一执行的操作方法。

• 操作指南：为常见故障类型提供操作指南，帮助不同经验和能力水平的团队成员快速定位问题和解决方案。

3. 组织结构​

• 专业团队：建立专业的技术和运维团队，负责监控、响应和解决系统故障。

• 角色定义：明确团队成员的角色和职责，确保在故障发生时，每个人都清楚自己的任务。

小结​

线上故障处理的目标是快速止血，标准化排障流程是实现其方式的关键因素之一。通过建立一套完整的体系支撑，并不断优化排障流程，以期能够更好地应对系统故障，提高服务质量和用户满意度。

标准化排障流程的成功实施需要一套完整的体系和工具支撑。这包括组织结构、流程文档、技术工具、沟通机制、团队培训、持续改进等多方面因素。一方面很多团队很难像这些大型互联网公司一样真正落地故障处置规范，建立完备的可观测性体系，花费人力物力进行数据指标的治理。另一方面很多企业建立的完善的可观测性体系，但是仍旧无法通过现有工具弥补人员经验、能力、操作方式、使用习惯的差异。这都使得标准化排障流程难以真正落地实施，致使可观测性数据价值无法被有效发掘。这些问题都需要平台化的能力和更先进的工具来解决。

随着技术的发展，特别是可观测性领域的发展，目前也出现了一些新工具能够帮助我们缩小这其中的差距，例如Datadog、Kindling-OriginX、X-Ray、Dynatrace等都通过各自不同的方法和理念去实现故障标准化排障流程。

在现代编程中，线程池已经成为了不可或缺的一部分，特别是在Java编程开发中，线程池更是绕不开技术点。然而，要想取得优秀的性能表现，需要对线程池的参数进行调优。本文将深入讲解 Java 线程池的调优方法和技巧，帮你提高编程技能和优化系统性能，并介绍如何使用 Kindling-OriginX 来深入理解线程池参数设置。

什么是线程池​

线程池是一种管理和重用线程资源的机制，是利用池化思想设置和管理多线程的工具。线程池维护一定数量的空闲线程，当有任务需要时，就从中选择一个空闲的线程用来执行任务，当使用完成后该线程就会被重新放回线程池中，通过这样循环使用的方式来节省创建线程和销毁线程的各项资源开销。

线程池重要参数解析​

线程池中有多个关键参数，需要在创建线程池时对其进行设置，合理的参数设置能够达到最佳的性能，适应任务场景。这里以ThreadPoolExecutor为例，对几个重要的参数进行解析说明。

corePoolSize​

核心线程池中线程的数量。当提交一个新任务时，如果当前线程池中的线程数量少于corePoolSize，就会创建新的线程。即使此时有空闲的非核心线程可使用，也会创建线程，直到达到corePoolSize配置数量。

maximumPoolSize​

线程池中最大的线程数量。包括核心线程池和非核心线程池，即在任务队列已满的情况下，可以创建的最大线程数。当线程数量超过maximumPoolSize时会执行配置的拒绝策略。

keepAliveTime​

线程存活时间。当线程池中的线程数量大于corePoolSize时，超出的空闲线程最大能存活的时间，超过这个时间，线程就会被回收，直到线程数等于corePoolSize。

unit​

时间单位

workQueue​

任务队列实现。用于存储已提交未被执行的任务。线程池根据任务队列的策略来进行等待任务的调度。常见的队列有：

• ArrayBlockingQueue：数组实现的有限队列，可以指定队列长度。

• LinkedBlockingQueue：基于链表的无限队列，长度可以无限扩展。

• PriorityBlockingQueue：优先级队列，可以设定队列里任务的优先级。

参数设置原理​

为了最大程度利用线程池的资源，充分发挥线程池的执行效率，需要对线程池的主要参数进行合理的设置，对于不同的业务和场景，也需要根据实际情况来进行调整。

• 核心线程池大小corePoolSize和最大线程池大小maximumPoolSize一般需要根据实际场景设置，主要与执行任务的类型和数量相关。一般最佳实践建议是将核心线程池设置为CPU核心数 + 1，最大线程池大小设置为CPU核心数 x 2。

• KeepAliveTime线程存活时间，一般根据任务处理的耗时配置。如果任务密集且耗时长，则可以适当增加空闲线程的存活时间，根本目的是尽可能减少线程的创建和销毁操作，原则上不超过60s。

• workQueue阻塞队列的类型及大小需要根据具体场景来设置。通常来讲任务数量多或并发高，选择无界队列，避免任务被拒绝。任务数量可控选择有界队列。

---

虽然参数设置原理看似简单，但实际使用中仍存在一些问题：

• 人员经验和能力不同，经常以个人习惯或理解进行设置，没有标准或者数据依据。

• 执行情况和任务类型、并发情况、机器配置都有关系，导致同样参数也可能运行起来情况有差异。

• 同一个应用中可能存在多个不同业务类型的线程池。

常见线程池参数配置方案及其问题​

上面参数设置大多基于经验，是否有科学的方式能够根据场景对其进行计算或者评估？

常见理论方案​

这里以美团技术团队调研的业界一些线程池参数配置方案为例：

• 第一种方案过于理论化，偏离任务场景。

• 第二种方案也不符合实际情况，应用中往往不可能只存在一个线程池。

• 第三种方案过于理想，正常情况下流量存在高峰低谷，同时大促、秒杀等运营活动期间流量更不可能是均衡的。

其他方案​

在《linux多线程服务器端编程》中有一个思路，CPU计算和IO的阻抗匹配原则，根据这个原则可以推出估算公式：

最佳线程数目 = （线程等待时间与线程CPU时间之比 + 1）* CPU数目

这也是网络上流传的比较多的方法之一，包括其衍生出的案例：

假如一个程序平均每个线程CPU运行时间为0.5s，而线程等待时间（非CPU运行时间，比如IO）为1.5s，CPU核心数为8，那么最佳的线程数应该是？

根据上面这个公式估算得到最佳的线程数：((0.5+1.5)/0.5)*8=32。

这个方法看似严谨，但也存在很大问题，因为其结论可以简单等价为线程等待时间所占比例越高，需要越多线程，忽略了线程切换开销和锁，同时也忽略应用CPU密集型、IO密集型、内存型区别，以及硬件环境不同带来的差异性。

上面的这些方案看似合理，但是在实际场景下却未必合理，实际情况下都需要结合系统实际情况和硬件环境，通过合适的工具尝试达到一个符合实际场景需求的合理估算值。

使用 Kindling-OriginX 进行参数调优​

这里以 Kindling-OriginX 为例，说明如何使用其提供的北极星指标体系进行线程参数配置的优化。

北极星指标​

cpu​

程序代码执行所消耗的CPU cycles

runq​

线程的状态是Ready，如果CPU资源是充分，线程应该被调度到CPU上执行，但是由于各种原因，线程并未调度到CPU执行，从而产生的等待时间。

net​

网络时间，主要包括DNS，TCP建连，常规网络调用

futex​

通常指的是一个线程在尝试获取一个futex锁时因为锁已经被其他线程占用而进入等待状态的时间。在这段时间内，线程不会执行任何操作，它会被内核挂起。

file​

存储操作时间

通过上述指标的具体时间，我们就可以知道每一次调用程序具体耗时在哪些地方，该从哪些方向进行优化，cpu资源是否被充分使用，还是时间都被消耗在了线程切换上等等。

调优案例解析​

下面以使用 Kindling-OriginX 为例，说明如何对线程池进行参数设置与优化，并找出系统链路中的真实性能瓶颈。对于单一线程池可以通过 Kindling-OriginX 确定其是cpu密集型还是说IO密集型任务，对于多线程池可以通过 Kindling-OriginX 以数据为基础，对多个线程池综合调优，使应用达到最佳状态。

案例一​

从北极星指标中可以看到，该次调用futex时间很长，可能是存在Full GC导致，也可能是程序中产生了锁等待，锁的竞争非常激烈，此时增大线程池也并不可能提高性能，可以考虑从优化任务执行代码入手。如果该服务是上游服务，则可以考虑加大下游服务的线程池尝试增强处理能力。

案例二​

runq是一个表示cpu等待的概念，它是一个系统活动的队列，用于存储正在等待cpu资源的进程，本例中runq数值很高，说明cpu资源紧张，没有资源分配给线程使用，可以认为该线程池处理的任务为cpu密集型任务，一方面配置参考Ncpu + 1的方式，尽可能提高利用率，减少上下文切换，同时考虑减少目前配置大小，合理配置线程池队列长度，设置合理的拒绝策略，避免导致上游方法或服务产生大量锁等等。另一方面需要考虑扩充资源或查看机器监控等指标，分析是否出现了异常的资源抢占。

案例三​

在北极星指标中，file一般指代存储相关操作。该例中，主要操作耗时是磁盘存储操作，在不考虑存储设备异常的前提下，该线程池可被认为是一个负责处理IO密集型任务的线程池，这种情况下可以考虑对该线程池采用Ncpu * 2的方式进行配置，并酌情增大。

对于单个或多个线程池的参数调优，亦可以Trace的角度出发，通过链路分析的方式，对单一节点的调用耗时进行分析来判断该服务中线程池的优化方向，单个线程池可以根据任务类型参考业内最佳实践，多个线程池可以根据北极星指标分别针对性的调整后综合分析，以求达到多个线程池的最佳资源利用状态。

小结​

对于业务中的线程池问题，需要对线程池的工作原理及各参数含义有深入理解，同时也需要能合理根据实际场景选用合理的工具对其参数进行调优，不能一味生搬硬套业内经验。可以通过 Kindling-OriginX 等工具对程序执行的各项指标进行分析，以数据为导向，合理调配，才能真正提高线程的复用和效率，适用不同的业务场景，提供系统性能，结合实际情况和真实数据才是最佳实践。

系统在业务平峰期间运行稳定、性能良好，但在大流量时就会出现各种各样的问题，例如接口时延变大，CPU占用率升高、频繁发生Full GC、代码中出现死锁等等。大流量意味着高并发，高并发也是很多开发人员所期望拥有的经验，一方面能够接触更加复杂的业务场景，提高自身能力，另一方面对于高并发的解决思路需要依靠经验积累，通过踩坑填坑的方式不断精进。而这其中扩容又是最常见的应对高并发场景的思路。

什么是扩容​

扩容，通常指为了提高系统的处理能力，而采取的增加计算或其他资源的一系列措施，以此来提升系统的性能。

传统意义上的扩容一般只单单针对硬件计算资源，策略上可以分为两种，一种是对单机整体扩容，也就是整机的CPU、内存、磁盘等等；另一种就是扩容对应的组件，例如提高CPU性能，升级读写性能更优秀的磁盘等。而在云原生、微服务等技术越来越普及后，扩容的概念也不再单单指计算资源，而是扩展到架构领域，例如流量高峰期针对某一中间件资源进行扩容，或针对某一核心服务进行扩容，这使得扩容能够更高效、更有目的性。

随着技术的发展和业务的复杂度的上升，也要求扩容更有目标性，更快速，这就要求在实践中对于扩容的目标、策略、方法，以及系统的架构设计都要有深入的理解，同时也需要有合适的工具对其进行技术支撑。

扩容目标​

扩容是为了确保系统在面临高并发访问、大数据处理等场景时，能够保持良好的性能和稳定性，不会因为资源不足而出现服务响应缓慢、系统崩溃等问题。

扩容是一个系统性的工程，需要综合考虑成本、性能、可靠性等因素，并采取适当的策略和技术来实现。目标具体来看主要有以下几点。

提高系统并发能力：通过增加系统资源，提高系统处理请求的能力，从而应对高并发访问。

保证系统稳定性：在扩容过程中，确保系统运行稳定，避免因资源分配不当导致的性能波动。

降低成本：在满足业务需求的前提下，合理利用现有资源，降低扩容成本。

易于实现：能够快速做出响应，同时不影响正常的业务功能设计和开发。

常见扩容思路​

架构层面​

从架构上来看扩容可以分为两大类：

横向扩展(scale-out)​

又名水平扩展，即用更多的机器来支撑大量的请求。常见的集群模式往往就是这种思路。以运送货物为例，当大量货物需要运输时，使用更多的货车进行运输。

纵向扩展(scale-up)​

又名垂直扩展，扩展一个节点或单一机器的能力，使一个点能够支撑更大的请求。例如使用高性能计算服务器，其往往有更强的单体计算能力。同样以运送货物为例，当大量货物需要运输时，将货车升级，让每个货车更大更快。

业务层面​

从业务类型上来看扩容也可以分为：

读操作扩展​

如果系统中读操作占大多数，那么可以通过找到关键的资源瓶颈，对其进行扩容或增加其资源进行扩展。例如MySQL是资源瓶颈，那么增加多个只读从库，业务高峰期扩展只读库副本数进行横向扩展，亦可以提高MySQL服务器的性能采用垂直扩展的思路增强其处理能力；增加一个或多个redis将热点数据进行缓存等。这都是通过读写分离的思想，针对性的以业务角度出发对读操作进行扩展。

写操作扩展​

如果系统中写操作为主，往往提高单个节点的能力性价比较低，通常考虑使用HBase、MiniIO等分布式存储方案，方便后期不断进行水平扩展。

异步处理​

将一些有延迟、等待任务放入消息队列中，利用中间件实现业务功能，提高系统吞吐量。或通过异步的方式对服务进行解耦，一方面便于针对性进行扩容，另一方面将时延敏感度较低的业务分离，提高核心资源利用率。

利用云服务、CDN等第三方能力​

对于一些静态资源或大文件读写场景，使用CDN缓存的方式来减少自身服务器的压力，同时云服务厂商很多功能目前都已提供弹性扩容能力，按需付费即可获得自动化的扩容缩容能力。以阿里云函数计算为例，预留模式中只需要配置好弹性伸缩规则，即可自动根据流量情况进行实例的扩容缩容。

实际业务场景中，往往不是单一地使用某一种扩容方法就能解决问题，选择哪种扩容思路取决于具体的业务需求、系统架构、预算以及预期的性能目标。最佳实践应当是结合多种扩容策略，实现灵活、高效、成本合理的系统扩展。

评估扩容需求的步骤和方法​

评估是否需要扩容以及需要扩容哪些资源，通常需要进行全面的系统分析和性能监控，并且要能够准确地识别系统运行状态。

1. 性能监控：​

使用监控工具（如Prometheus）来收集系统的性能数据，包括CPU使用率、内存使用率、磁盘I/O、网络流量、响应时间等。

分析性能数据，找出系统的瓶颈所在。例如CPU使用率经常处于高位，则可能需要增加计算资源；如果磁盘I/O压力大，可能需要升级磁盘或使用更快的存储解决方案。

2. 容量规划：​

根据业务增长趋势和用户需求预测，进行容量规划。考虑未来的数据增长、用户增长和交易量增长等，预测所需的资源量。

对比当前资源容量和预测的资源需求，确定是否需要扩容以及需要扩容的规模。

3. 压力测试：​

通过模拟高负载场景来测试系统的性能极限。这可以帮助确定系统在压力下的表现，以及哪些资源会成为瓶颈。

分析负载测试结果，找出系统在哪些方面需要改进或增加资源。

4. 应用分析和优化：​

分析应用代码和架构，找出性能优化点。通过优化代码或改进架构，减少对资源的依赖。

使用 Kindling-OriginX 确定扩容策略​

这里以 Kindling-OriginX 为例，说明如何使用其提供的北极星指标体系找到高并发场景下的瓶颈点，为扩容方向提供明确指引。

北极星指标​

cpu​

程序代码执行所消耗的CPU cycles

runq​

线程的状态是Ready，如果CPU资源是充分，线程应该被调度到CPU上执行，但是由于各种原因，线程并未调度到CPU执行，从而产生的等待时间。

net​

网络时间，主要包括DNS，TCP建连，常规网络调用

futex​

通常指的是一个线程在尝试获取一个futex锁时因为锁已经被其他线程占用而进入等待状态的时间。在这段时间内，线程不会执行任何操作，它会被内核挂起。

file​

存储操作时间

通过上述指标的具体时间，我们就可以知道每一次调用程序具体耗时在哪些地方，结合SLO实时异常检测确认是否出现了影响用户体验的问题，即可快速对是否需要进行扩容，哪些节点，哪些资源需要扩容做出判断。

实战案例解析​

下面以使用 Kindling-OriginX 为例，说明在实际生产环境中，如何有针对性地确定和实施扩容策略。以数据为导向，告别盲目使用扩容、升配试一试的方式应对高并发场景下的各种问题。

案例一​

业务高峰期间通过SLO入口检测发现业务入口延迟变大，已经影响到用户体验。

通过查看慢调用的链路传播链，定位到造成影响的服务节点是ts-train-service

查看节点的北极星指标可以看到runq耗时异常，参照runq指标的含义，说明当前CPU不足，这种情况下优先考虑对该服务进行扩容。

案例二​

该案例中定位到产品问题的节点是ts-order-service

同样利用北极星指标分析，发现是由于file耗时异常导致， 此时盲目进行横向扩容并不能解决问题，对该存储相关操作异常的原因继续下钻分析。

下钻后 Kindling-OriginX 将会定位到具体文件，及该文件具体的读写指标数据，通过这些数据首先分析该读写操作是否是正常业务行为，如果是正常业务行为，接下来根据读写情况来看是否需要对其进行读或者写扩展。如果文件读写较为平均，那么考虑对问题节点或机器的磁盘性能进行增加，采取垂直扩展的思路先解决问题，之后从代码设计层面和系统架构层面考虑重新设计该文件操作的业务流程。

通过上面两个案例可以看到，高并发场景下很多性能问题都可以通过扩容解决，但同样不存在银弹，盲目的扩大服务容量或提高机器性能，都可能只是无效扩容。没有合适的工具发现瓶颈点，选择了错误的扩容策略和方向，只会浪费时间、金钱、人力，却不能真正解决问题。

小结​

在高并发场景中选择合适的扩容策略，往往要对系统整体架构和各个业务系统非常熟悉，同时也要对常见系统性能优化方式有深入了解，这都需要大量的经验积累和技术能力，也需要能合理根据实际场景选用先进的工具获取系统中的关键运行信息，不能一味生搬硬套业内经验。可以通过 Kindling-OriginX 等工具对系统执行过程进行无盲区的观测，以数据为导向，采取对症下药的扩容方式。

在当今快速发展的互联网时代，企业对于IT系统的依赖程度越来越高，系统稳定性成为企业持续发展的关键因素。为了提高系统稳定性，企业纷纷寻求标准化排障的方法。然而，在实施标准化排障过程中，企业往往会遇到一些落地难题。本文将探讨如何应对这些难题，推动标准化排障的落地，并提出以实现内核行为可观测性的方式来应对标准化排障落地的难题。

标准化排障的意义​

排障流程的标准化是指将故障处理的各个环节规范化、流程化，以确保在面对系统或服务故障时，团队能够快速、有效地采取行动。同时能够最大限度减少因人员经验和技术水平差异导致的故障差异化问题，使排障流程能够可评估、可管理、可执行、可解释，改变依赖团队个别专家的窘迫局面，快速对齐团队人员排障处置能力。更多关于排障标准化的讨论可以参见#标准化排障系列文章。

为什么标准化排障难以落地​

标准化排障虽然具有重要意义，但在实际中却很难真正落地，企业中也更多的是以制定组织层级的故障响应联动机制为主，或者规范人员和资源的协调机制。对于具体故障定位和分析的方法难以做到标准化和规范化，具体深度分析解读可参见文章

最佳实践解读：互联网公司线上故障标准化排障流程

标准化故障根因定位应该怎么做

究其原因主要有以下几个方面：

存在观测盲区和孤岛，缺少穿针引线能力​

目前大部分可观测体系建设后，仍存在很多可观测盲区和数据孤岛，各个工具各自为战，缺少将这些工具和数据串联起来的能力。

依赖专家经验和能力​

目前排障过程中更多依赖参与处置人员的经验和综合能力水平，使得个体或单一团队的处置经验无法短时间传递到其他个人或团队，排障模式无法复用。导致即使制定排障的标准化流程也难以实施。

使用可观测性数据和工具的能力不一​

业务开发团队、运维团队、容器团队等对于可观测性工具和数据的熟悉程度不同，对于相同指标的理解也有差异，使得即使建设了可观测性体系也无法直接进一步做到标准化排障。同时对于一些指标的含义长时间不使用也会生疏，这也使得故障发生时需要查阅资料。

工作量大，难以规范统一​

以 Trace 数据为例，对其进行人工分析工作量巨大，所以往往也无法直接制定以人工分析可观测性数据为基准的标准化排障流程。

可观测性建设成熟度有差异​

各个企业在可观测性建设、团队技术能力、组织协调水平上都有巨大的差异，这导致业内一些企业的优秀方法论难以在其他企业内部得到落地推广。例如一些公司花费巨大的人力、物力成本进行可观测性数据的指标治理，对可观测性数据进行自动化分析，但这种方式对于团队技术能力、企业重视程度都有很高要求，往往不具有普适应。

应对标准化排障落地难题的策略​

针对上面种种困难和挑战，工业界和学术界都在不断寻找对应策略。Kindling-OriginX 基于 eBPF 实现内核行为可观测性，穿针引线联动网络、Trace、日志、系统指标等各种相关数据，构建一体化的可观测能力，使可观测性数据的价值能够充分发挥，进而能够落地根因推导、标准化排障等高阶能力。​

Kindling-OriginX 实现标准化排障的关键路径具体来看主要是：

利用 eBPF 技术穿针引线，真正实现可观测​

基于eBPF内核行为可观性数据，穿针引线联动应用可观测性数据，网络可观测性数据，日志可观测性数据，最大化可观测性数据价值，增强各个工具普适能力，真正实现可观测。

内核行为可观测性，消除盲区​

通过 eBPF 和自动化Tracing 分析，将内核行为与上层业务调用关联，消除盲区的同时不遗漏任何异常数据。直接给出问题结论，自动关联问题数据相关指标、日志数据并对其进行下钻，通过结论即可进行故障预案执行或定界交接。

无缝融入当前体系，模拟并优化了人工排障步骤​

智能化、自动化的标准化排障流程实质上是模拟并优化了人工排障步骤，融合专家知识和相关数据。一方面消除用户排障过程中的心智负担和学习成本，另一方面轻松融入现有可观测体系，与企业现有工作流程结合实现标准化。

简化的操作界面​

为所有技术水平的用户提供易于理解和操作的界面，降低使用门槛。直接根据故障结论进行预案执行。通过平台能力为操作者赋能，使其最短时间内就能参与到复杂故障的处理中。同时，无论业务团队、运维团队、容器团队等都能快速上手利用其解决各自关切问题。

排障知识库​

既是内核可观测性产品，也是一个排障专家经验知识库，借助专家经验知识库平台能力能够迅速提升团队能力，最大程度消除人员经验和能力差异性。

小结​

标准化排障具有重要意义，但在实际操作中却往往难以落地，更多依赖专家经验和个人能力，难以复制和标准化。Kindling-OriginX 通过 eBPF 建立内核行为可观测能力，穿针引线联动应用可观测性数据，网络可观测性数据，日志可观测性数据，为标准化排障的落地提供了一条可行之路。

在现代软件开发和运维中，故障的及时响应和有效解决是确保服务稳定性的关键。然而，由于技术环境的复杂性和多样性，故障的根因定位往往是一项耗时且充满挑战的任务。为了提高故障处理的效率和准确性，标准化故障根因定位的方法和流程显得尤为重要。本文将探讨为什么需要标准化故障根因定位，以及标准化故障根因定位应该怎么做。

为什么故障根因定位需要标准化​

标准化是提高工作效率和质量的基础。在故障根因定位中，标准化意味着建立一套统一的流程和方法，使得不同的人员在面对相同或类似问题时，能够按照既定的路径进行调查和分析。标准化有助于减少因个人经验差异导致的定位错误，消除这些差异导致的沟通障碍，提高故障处理的效率，同时也有助于知识的积累和传承。

1. 一致性和可复现性 标准化流程确保了每次故障排查时，都能按照相同的步骤进行，减少了因个人差异或方法不统一导致的排查结果不一致性。

2. 提高效率 标准化流程可以帮助排查人员快速定位问题所在，而不是从零开始，浪费时间在重复工作上。

3. 减少人为错误 人工排查过程中可能会因为遗忘、疏忽或操作不当导致错误。

4. 知识积累和传承 标准化的流程可以将专家的经验和知识固化成流程和工具，使得非专家人员也能够按照这些流程进行排查，从而传承和积累排障知识。

5. 持续改进 标准化流程便于统计和分析故障数据，有助于发现常见的故障模式和瓶颈，从而不断优化流程，提高排障效果。

6. 跨团队协作 在大型组织中，不同团队可能需要进行故障排查。标准化的流程有助于不同团队之间的协作和沟通。

7. 培训和验证 标准化的流程可以作为培训材料，帮助新员工快速上手。同时，也可以作为验证排查结果的标准，确保排查结果的正确性。

目前现状及问题​

目前，故障根因定位通常依赖于工程师的个人经验和技能。虽然有一些通用的排查步骤和工具，但往往缺乏统一的标准化流程。这导致在处理复杂故障时，不同工程师可能会采取不同的方法，有时甚至会导致重复劳动和资源浪费。此外，由于缺乏标准化，故障处理的经验和知识往往难以被有效记录和共享，从而影响了整个团队的学习和成长。

尽管当前AIOps技术取得了显著进步，业内也出现了许多优秀的AIOps工具，为解决故障根因定位提供了新的思路和方法，但AIOps系统虽然能够推荐可能的故障根因，却往往难以直接将这些推荐与具体的可观测性数据紧密关联。这就要求运维人员依靠自己的经验和知识，在海量的数据中寻找证据来验证这些推荐，这一过程既耗时又容易出错，也让故障根因定位工作再次回到了依靠个人经验和能力的老路上。关于AIOps的讨论，可参考文章：AIOps实践中常见的挑战：故障根因与可观测性数据的割裂

典型人工排障步骤​

典型的故障根因定位步骤包括：

• 根据Tracing数据，查看一定量的Trace识别可能的异常服务点。人不可能分析所有的Tracing，所以这个步骤可能漏掉关键异常服务点，导致排查功归一篑。

• 根据Tracing数据得到异常服务点的相关Span数据，遇到SPAN简单的问题，立马判断出故障根因。但是SPAN信息反映不出问题，继续下一步。

• 根据经验查看异常服务节点相关告警，一一排查是否是根因，同时结合指标和日志进行确认。如果是上游节点受到下游故障的级联影响，在上游疑似节点很可能排查不出来任何真实有效的故障。如果公司对指标没有治理，完全是大海捞针式的找异常指标不现实，公司如果对指标进行了治理，分层，分成基础设施指标、网络指标、应用指标、中间件指标等，排障过程会快点，但是仍然需要一定的运气。

Kindling-OriginX 如何做的​

Kindling-OriginX 将上述人工排障的典型步骤智能化、自动化统一为标准化的排障流程。

• 通过对接Tracing数据，分析Tracing，识别Tracing的异常服务节点。

• 采样异常服务节点，通过eBPF获取的北极星指标排障体系给出故障根因。

• 在识别出异常服务节点的根因之后，关联相关日志和指标证明这次根因结论。

这个过程完全是模拟人排障过程，但不是简单的再现了人工排障的步骤，而是融合了专家知识和相关数据，实现了自动化与智能化的提升，从而在效率和准确性上显著超越了传统的人工排查方法。

总结​

标准化故障根因定位是提高服务稳定性的关键。标准化流程能够确保故障排查的一致性和可复现性，提高效率，减少人为错误，并促进知识的积累和传承。当前，故障根因定位往往依赖于工程师的个人经验和技能，缺乏统一的标准化流程，导致处理复杂故障时存在重复劳动和资源浪费的问题。Kindling-OriginX 通过智能化、自动化的标准化排障流程，模拟并优化了人工排障步骤，融合专家知识和相关数据，实现了效率和准确性的显著提升，为解决故障根因定位问题提供了新的思路和解法。

解密北极星指标体系如何实现根因分析​

在之前的文章中提过我们的观点，AIOps实践中常见的挑战：故障根因与可观测性数据的割裂 认为依赖算法给出根因建议缺乏可解释性，本篇文章重点介绍下我们的根因定位的思路, 按照这个思路去快速实现根因定位，我们认为是能够落地1-5-10的，如果对文章的思路有任何疑问，欢迎联系我们一起探讨。

为什么高效定位故障根因定位难​

排障过程本质是我们拿着程序最后的执行结果去猜测验证程序执行异常的过程​

当前人为定位故障主要依赖于指标告警，但是现在绝大多数指标反映的程序执行结果，并未对程序执行过程提供更多的信息。举例说明，CPU利用率是程序执行完代码之后的CPU的被使用的反映，内存利用率是程序已经使用内存的执行结果，所以排障过程本质是我们拿着程序最后的执行结果去探索程序执行异常的过程。

在探索程序执行异常的过程中，有哪些数据能反映程序执行过程呢？能反映程序执行过程数据目前常规就是日志以及各种事件（将APM数据称之为程序执行的事件数据，比如执行的代码堆栈、慢方法等）。

由于可观测性盲区的存在导致猜测验证过程依赖专家经验​

不管是日志、APM数据所反映出程序执行过程其实都存在很多盲区，关于程序执行盲区，可以参考团队在KubeCon，eBPF大会等会议上分享内容。也可以参考可观测性工具的盲区与故障排查困局 这篇文章，里面有更加详细讨论。

什么数据能够对故障定位起到决定性作用​

基于以上的论述，我们认为要能够实现故障定位的关键数据要满足以下特点：

• 覆盖程序执行的盲区，不管程序任何操作都应该有数据能够和程序执行过程对应起来
• 数据分类要足够抽象，便于排障的人员能理解，这点很重要因为团队之前拿着程序依赖内核的行为数据去和用户沟通之时，绝大多数开发不能理解这些数据，就别提用这些数据进行排障
• 每个数据分类要足够隔离，不要相互影响

北极星指标体系是故障定位中的关键数据​

北极星指标体系是基于TSA方法论得到的程序执行过程完整数据，关于TSA的方法论，有兴趣的朋友可以参考大神的博客，https://www.brendangregg.com/tsamethod.html 也可以参考这篇公众号的文章，TSA方法：基于线程时间分布分析性能瓶颈http://u6v.cn/5yDFVr

从这套方法论来看，采集的数据是覆盖了程序的完整执行过程，第一个要求满足了，那第二个要求就是我们将程序与内核交互的数据进行抽象而得到的。第三个就是因为我们是根据进程在操作系统上执行On与Off数据而来，所以数据是隔离没有影响的，这里也许有内核专家会疑惑比如由于网络包产生的软中断会消耗很多的CPU，所以CPU时间和网络时间不能隔离，但是我们是基于On与Off数据而来，由于网络包产生的软中断CPU消耗会被计算到ON的CPU时间之上，并能通过内核火焰图反应出最终的问题。

一次接口执行的北极星指标

围绕着北极星排障指标的建模​

在有了一次接口执行的北极星数据之后，我们可以对历史数据进行基线判断，也就可以形成以下的数据

当某一次异常执行过程和基线对比之后，我们可以很快知道故障方向，比如以下的示例，问题明显就是文件方向：

问题：多分项的异常怎么办？​

同时出现CPU耗时超出历史基线和net耗时超出历史基线怎么办？该往哪个方向排查？

针对一次请求的异常，我们认为应该聚焦突变最大的异常，所以只会关心突变最大的异常方向，但是并不是忽略其他突变的异常，对于根因定位而言，不能因为一次请求的异常就完全定出根因，应该对请求进行全面的分析。其它异常突变的分项如果真的是根因，在其它请求中一定也会有所反应，而偶发的噪音在其它请求中就能被过滤掉。

基于北极星指标的初因判断​

对于突变最大的异常，我们会做一个初因判断，也就是某单次请求的初因异常，这样每个异常请求都会一个初因的标签了。

对请求全面分析之后的节点级故障特征​

单次请求的异常可能是偶发因素，但是对节点所有请求进行全面分析之后，并统计之后，就能够形成故障特征，准确度大幅提高。比如某节点其故障特征如下：

对该特征的解释如下：

• 有些请求是幸运儿，没有经过长时间的锁等待就调用成功了下游服务节点，但是由于下游服务节点异常从而产生了网络调用耗时长的初因故障
• 更多的请求由于对外调用连接池的限制，产生了长时间的锁等待，所以产生了锁等待的故障

所以对于该特征的节点，大概率不是故障根因节点，因为其长时间的等待都是由于下游故障而导致的。

在当今互联网时代，运维工作的重要性日益凸显。然而，随着业务规模的不断扩大，运维面临的挑战和痛点也越来越多。本文将深度解析当前排障流程的挑战与局限，提出相应的解决思路，并对未来运维及可观测的发展趋势进行展望，以帮助企业和运维团队更好地应对复杂多变的运维环境，确保业务稳定、高效地运行。

当前排障流程的最大挑战：排障难以标准化​

目前在线上故障处置过程中，主要做法主要是跳坑、填坑、踩坑的方式，依赖处置参与人员对系统、业务、架构的熟悉程度，同时受人员综合能力及经验影响大，另一方面运维人员对各类可观测性指标与工具的熟悉程度，都会对故障的处置和恢复时间，甚至能否成功处置都会起到关键作用。即使相同的故障现象，不同人员也会有不同的理解和处理方式，导致处理结果不一，甚至导致故障升级。这些都导致排障流程难以标准化。

以下问题也是目前排障流程的挑战：

故障发现延迟​

当前排障流程中，故障发现往往依赖于监控系统或人工巡检。然而，这些方式在实时性和准确性上存在局限，导致故障发现延迟。故障发现延迟不仅影响业务正常运行，还会增加故障处理的时间和难度。

排障效率低下​

排障过程中，运维人员需要分析大量的日志、数据和相关文档。然而，由于缺乏有效的排障工具和方法，导致排障效率低下。此外，排障过程中的信息孤岛现象也使得运维人员难以快速定位故障原因。

排障流程不统一​

不同团队、不同业务的排障流程可能存在差异，导致运维人员在处理故障时难以形成统一的操作规范。这不仅影响排障效率，还可能导致故障处理不当，引发更大的问题。

故障复现困难​

故障复现是定位故障原因的关键环节。然而，在实际操作中，故障复现往往面临诸多困难，如环境不一致、数据丢失等。这给排障工作带来了极大的挑战。

目前的一些解决思路​

1. 提高故障发现能力

建立完备的可观测性产品体系，提高故障发现的实时性和准确性。同时，加强运维团队对监控系统的培训和团队能力，提高人工巡检的效率。

2. 优化排障工具和方法

研发或引入专业的排障工具，如日志分析、性能监控等，帮助运维人员快速定位故障原因。此外，建立排障知识库，总结常见故障及解决方案，提高排障效率。

3. 统一排障流程

制定统一的排障流程规范，明确各个阶段的操作步骤和责任人。通过培训和考核，确保运维人员熟悉并遵循排障流程，提高故障处理质量。

4. 提高故障复现能力

建立故障复现环境，确保复现过程中环境的一致性。同时，加强对故障数据的收集和存储，为故障复现提供充分的数据支持。

常用的排障工具和方法​

我们可以看到在实际的运维工作中，排障流程的挑战是多方面的，需要综合运用技术、流程和团队协作等多种手段来解决。在运维领域，有许多工具和方法可以帮助提高排障的效率和效果。以下是一些常用的排障工具和方法。

排障工具​

• Prometheus：一款开源的系统监控和警报系统，提供了通用的数据模型和快捷数据采集、存储和查询接口。

• Grafana：与Prometheus结合使用，提供强大的可视化功能。主要用于大规模指标数据的 可视化展现，是网络架构和应用分析中最流行的时序数据展示工具。

• Skywalking：开源应用性能监控工具，支持对分布式系统的监控、跟踪和诊断。

• OpenTelemetry：由OpenTracing和OpenCensus项目合并而成，是一组规范、工具、API和SDK的集合。使用它来检测、生成、收集和导出Metrics、Log和Trace，以帮助运维开发人员分析软件的性能和行为。

• Nagios：一款流行的开源IT基础设施监控系统监控系统，用于监控网络和服务。

• Kindling-OriginX：故障根因推理引擎，基于 eBPF 的自动化 Tracing 分析产品，以专家经验串联起来所有的可观测性数据，并推理成可解释、可行动的故障结论。

• DeepFlow：基于 eBPF 的可观测性产品，旨在为复杂的云基础设施及云原生应用提供深度可观测性。

• Splunk：一个强大的日志分析平台，能够处理大规模的日志数据。

故障排查方法论​

• 根本原因分析（Root Cause Analysis, RCA）：目的是找到问题的根本原因，而不仅仅是表面的症状或止血方案。如果能够找到故障的根本所在，通过数据还原并佐证故障的过程，那么就可以采取相应的行动，对故障进行止血或者根除。但实际上往往不可能快速找到故障根因，所以该方法往往是最终目标，但很难有路径直达，在实际生产环境排障中往往难以直接应用，也是目前AIOps方向想要解决的核心痛点。

• 故障树分析（Fault Tree Analysis, FTA）：是由上往下的演绎式失效分析法，利用布尔逻辑组合低阶事件，分析系统中不希望出现的状态，通过构建一个故障树来分析特定事件的发生原因。从一个不希望发生的事件（故障）开始，追溯回可能的原因。例如构建事件墙，依据是否发生变更、是否做过配置更新等逐个事件回溯判断。

• 排除法（Deductive Reasoning）：通常用于逻辑性强、数据量少的情况。根据可观测数据排除干扰可能，主要适用于疑难杂症，对于常见故障，由于各类指标和相关数据既多又分散，且不一定都具有逻辑关联性，所以难以用于快速解决问题。

• 假设验证（Hypothesis Testing）：提出可能的假设，然后实施来测试这些假设，常见的随机变动讹方法就是其中一种，通过猜测方向和实验后验证结果来排除或确认假设。在实际场景中的例子就是处置人员往往根据经验判断问题点，之后优先选择进行重启、回滚、扩容等方式尝试解决故障，操作后如果各类指标正常，则完成止血确认假设。优点是简单速度快，缺点是主要依靠经验和假设猜测

排障流程优化策略​

目前主要可以依靠提高团队质量和引入各类新工具来对流程进行优化，主要的方法有：

1. 标准化和文档化：

制定标准的排障流程，确保每个步骤都有明确的指导和期望结果，以规定流程进行排障。

文档化所有的排障步骤和解决方案，建立企业和团队内部运维知识库，以便于知识共享和快速参考。

2. 自动化和工具化：

引入更先进的工具和理念，通过引入先进平台和工具能力提高团队整体水平，优化排障能力和流程。

3. 智能化和数据分析：

根据自身系统和业务特点，建立完备的数据分析和指标治理体系，提高可观测数据的使用水平。

4. 培训和提高团队能力：

对运维团队进行定期培训，提高他们的技术能力和对最新工具的了解。

鼓励团队成员参加行业会议和研讨会，以获取最佳实践和新技术。

5. 故障演练和复盘：

以混沌工程故障注入的方式定期进行故障演练，模拟真实环境中的故障情况，以提高团队的应急响应能力，每次故障后进行复盘会议，分析故障原因，总结经验教训，并更新排障流程。

结语​

运维痛点深度解析，让我们看到了当前排障流程面临的挑战与局限。只有通过不断优化排障工具和方法、引入先进的工具和理念，帮助提高团队整体水平优化流程，才能由跳坑、填坑、避坑的处理流程演变为可管理、规范化、无差异化的标准工作流程。