你好,我是刘晗。我在 Java 领域从业 8 年,长期从事分布式系统的构建和调优工作。目前,我在拉勾网担任技术专家,主要负责拉勾基础平台组件研发,对分布式系统观测、系统调优有着丰富的实战经验。
相信你在开发过程中,一定遇到过这样的情况:
当线上环境出现一个问题后,测试找到开发业务的同学 A,A 发现这个请求还依赖其他项目组,于是就去找相关的责任人 B,但 B 经过一番排查,发现这个问题原来是 C 的。大家相互推诿,很难找到问题发生的原因,甚至严重时还会影响到项目的正常发布,惹得团队怨声载道。大家的开发任务已经很重了,还要被这种事情弄得焦头烂额。
虽然从业这么多年,但这个问题却始终困扰着我。最初,我以为是因为初创公司技术能力不足才导致这样的问题,后来却发现成熟的技术团队和技术架构同样存在着类似问题,它并没有因为我个人能力的成长和所在团队水平的提高而消失,反而越来越困扰我。比如,为什么有这么多的问题找不到原因,为什么我总是在解决十分相似的问题,为什么团队的沟通效率会如此低,等等。
我接手拉勾的基础组件研发工作后,开始站在全局去思考解决这个问题的方法,最终通过不断地探索、实践,在拉勾内部打造了一套切实可行的可观测系统,对拉勾日均上亿级别的请求进行有效观测。
这套系统可以很好地应对问题,并早于用户反馈解决。它不仅提高了用户体验,也提高了拉勾的口碑,对拉勾的发展起到了不可忽视的作用,我在拉勾内部的技术宣讲中,也经常提到可观测系统对拉勾的帮助,以及它的重要性。
链路追踪通常与可观测性一起出现,它为可观测性提供了强有力的数据支持,也是可观测性中必不可少的一环。通过对这部分数据源的可视化,开发人员可以看到链路中每一环的执行流程。链路追踪通常还可以和链路分析结合在一起,除了链路追踪,还可以进行性能诊断并给出优化建议,为可观测性提供了多维度的数据和展现方式的支持。
随着微服务架构的持续演进,应用和服务器的数量不断增加,调用关系也越来越复杂,能否有效地对系统进行观测就变得至关重要。 此时,国内的大厂都逐渐有了自己的一套可观测系统,比如阿里的“鹰眼”。大厂对可观测性越发重视,与之相关的岗位的薪资也水涨船高。
(来自:拉勾网)
从招聘的需求中,我们可以明确看到“熟悉分布式系统的开发原则”“优化故障处理流程”“提升排障效能”等职位要求。阿里全链路监控系统“鹰眼”的成功,已经证明了可观测系统对这些问题的解决能力,可观测性也必然会在系统愈发复杂的未来变得更加实用。
为了让你能够系统地了解可观测性,并将它集成到自己公司的系统中,我决定将我的实践经验系统性地分享给你,希望能够帮助你建立对“可观测性”的全面理解,在工作中少走弯路,并能够更好地规划自己的技术成长路径。
那么,如果没有很好的可观测系统,会存在哪些问题呢?
开发人员,职责是编写好业务代码,并保证其持续且稳定地运行,但如何实现这个职责却是一大难题。如果运维人员告诉你线上出现了问题,但你翻遍日志也找不出问题的原因;如果用户反馈说出现了问题,但你测试没有任何异常,这个问题就像定时炸弹一样被埋了下来,不知道什么时候就会爆炸。可观测性可以通过一套完整的数据观测系统帮助你更快且更有效地发现问题、解决问题,可以说是保障线上稳定的关键。
随着微服务的兴起,后端的服务和系统数量越来越多。同时,项目在不停地迭代,如果没有及时沉淀文档架构图,你就很难了解整体的系统架构和数据走向,站在“上帝”的视角去考虑如何优化。最常见的情况就是两个模块之间存在循环引用,但这种常见的问题往往又会有较大的隐患。无论你是一个开发小白,还是从业多年的架构师,可观测性都可以通过可视化的形式帮助你快速了解整个系统的架构、数据流向、业务指标等,从而使你更加了解系统,梳理架构。
由于系统的数量越来越多,相应机器的资源管控也越来越复杂,同时每个服务之间还存在着一定的依赖关系。因此,我们很难了解每台机器上的资源是否都被充分利用了。而可观测性就可以帮助你分析出哪些服务利用率不够,哪些服务可以进行资源缩减。
综上不难发现,“可观测性”所解决的核心是效率问题。无论是处理问题、了解系统还是分配系统资源,“可观测性”都可以提高从公司到个人的整体效率。 这也是为什么,越来越多的公司开始重视可观测性。
你可能会问,“可观测性”不就是监控吗?虽然它们看起来十分相似,但监控可以说是可观测性的一个子集。它们之间有 3 点区别:
可观测性打破了开发和运维原有的问题解决方式,不再是运维发现问题开发解决,而是以开发为中心。 开发人员以什么样的形式去暴露关键的指标等,是与业务开发中的可扩展性和高可用性同等重要的内容。
可观测性如此重要,但学习可观测性的过程中,我也遇到过一些问题。“可观测性”这个概念在国内来说比较新颖,中文学习资料不多,而且比较散乱、不成体系,有一定的学习难度。而且,如果你只是单纯地学习可观测性的理论知识,也容易造成纸上谈兵的现象,无法将所学到的知识结合实际,应用到公司的研发和管理上。
因此,我总结梳理了自己的学习和实践经验,分为可观测性的原理、告警系统与可观测性、可观测性的实践应用这 3 个模块来和你讲解这个课程,希望能为你提供一个完整且系统的可观测性的学习路径:
如果你是中高级的开发人员,如果你对系统调优有兴趣、希望从事监控相关的工作、想要了解分布式系统;如果你是运维人员,想要提高系统资源利用率,想要推动公司监控体系建立并制定一套规范的告警流程,想要帮助开发提高解决问题的效率,这个课程正好可以帮到你。
无论你目前所在公司有没有自己的一套可观测性系统,这门课都会对你有所帮助。我并不只是在讲述系统应用上的知识,更多的是在培养你的“可观测性”思维。即便没有可观测性系统,可观测性思维也会在你遇到问题的时候,帮助你不再点对点地解决,而是实现面对点的降维打击,从而更快速、更精准地解决问题。
我希望你可以多思考、多交流、多实践。只有将你所学运用到工作中,体现在工作和能力的成长上,才能说明你真的理解了这门课。
我在留言区等你,期待你给我分享你的想法,以及对可观测性的见解。你也可以把内容分享给你的朋友,一起沟通探讨。