整理笔记 2025.6.20

This commit is contained in:
zzz
2025-06-20 09:51:50 +08:00
parent 1643a4a3f9
commit 057b9ca18a
32 changed files with 274 additions and 365 deletions

View File

@@ -0,0 +1,153 @@
source:[加Log就卡不加Log就瞎”——这个插件治好了我的精神内耗](https://mp.weixin.qq.com/s/Nii4fC15eKoNN8MOAzrmDQ)
---
#
- 1 现有日志打印情况
- 1 日志阻塞
- 2 从调试到生产,日志策略的抉择
- 2 问题出现原因
- 2.1 日志打印原理分析
- 2.2 log4j2 Disruptor 的初始化
- 2.3 队列满导致日志阻塞
- 2.4 产生的根本原因
- 3 应对方案
- 3.1 方案选择
- 3.2 技术选择
- 3.3 落地实现
- 4 总结
## 1 现有日志打印情况
日志作为软件工程实践中的重要基础设施在系统监控、异常诊断及行为追溯等关键环节发挥着不可替代的作用。Apache Log4j2作为当前主流的日志框架凭借其模块化架构和高度可扩展的特性为开发者提供了灵活的多维度日志管理方案。然而若未能深入理解其异步日志机制、缓冲区策略等核心原理或存在配置参数与业务场景匹配度不足等问题则可能导致日志I/O阻塞、内存资源过度消耗等负面效应甚至引发严重的服务性能瓶颈。因此在实际工程实践中需遵循科学合理的使用准则通过日志分级管理、输出格式优化、滚动策略定制等手段方能充分发挥其技术优势有效规避潜在风险。
### 1 日志阻塞
日志导致线程Block的问题相信你或许已经遇到过对此应该深有体会或许你还没遇到过但不代表没有问题只是可能还没有触发而已。常见的现象是出现大量的block线程查看jstack常常是下图现象![图片](https://mmbiz.qpic.cn/mmbiz_png/dHUzltsJpQsMHUpibOgSB9tj4iaVbseaZHIR2NAfdDEgKBvNfWKcAd1jXHF2qRU1ibbNA8jIMaTs5hrlGibj02kiblg/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1)
### 2 从调试到生产,日志策略的抉择
  在软件项目的全生命周期中,从开发阶段到生产环境的演进过程中,日志管理往往面临着微妙的平衡。开发阶段我们倾向于采用详尽的日志策略:业务接口的入参出参被完整记录,跨系统的调用链路被清晰标注,甚至非核心逻辑的辅助性信息也得以留存——这些详实的日志如同开发者的双目,为联调排障与功能验证提供了不可或缺的洞察。
  然而当服务迈向生产环境时,过度日志带来的问题便逐渐显现。冗余的调试信息不仅会影响系统性能,更可能淹没真正关键的业务轨迹。尽管我们尝试在上线前进行日志裁剪,但总存在令人踌躇的灰色地带:某些开发期辅助日志是否暗含未来的诊断价值?那些看似非核心的流程记录会否在某个异常场景下成为关键线索?这种取舍的困境,本质上反映了我们对系统可观测性与运行效能之间永续的权衡。
## 2 问题出现原因
### 2.1 日志打印原理分析
在我们使用的log4j的应用中采用的是异步日志配置简单的说明一下一条日志打印在log4j中的处理流程如下图所示![图片](https://mmbiz.qpic.cn/mmbiz_png/dHUzltsJpQsMHUpibOgSB9tj4iaVbseaZHwWGYn7OQfa7tNica1TerbgEjIP0VNJnNbpGlKdAvCic5Lbk0sTCNElTw/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1)  简单点来说,就是多线程通过 log4j2 的门面类进行日志的打印日志经过一系列的处理过滤包装后放入到Disruptor的环形 buffer 中,在服务器的消费端会单启一个线程进行这些日志的消费,最终放入到我们指定的文件中。
### 2.2 log4j2 Disruptor 的初始化
当LoggerContext启动时所有AsyncLoggerConfig会通过start()方法初始化其Disruptor![图片](https://mmbiz.qpic.cn/mmbiz_png/dHUzltsJpQsMHUpibOgSB9tj4iaVbseaZHvaPOfupg1o0Wnb2HpqzUewncx7ibHiczTLJdCq6Na2yopKYxZ3thu14w/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1)其中Disruptor 是一个环形 buffer官方做了很多的性能优化这里有兴趣的可以了解其实现原理这里不进行深入的讨论其中在我们的应用log4j.xml配置中没对RingBuffer进行自定义的配置使用的是默认的大小256K。
### 2.3 队列满导致日志阻塞
Disruptor 的 RingBuffer 是一个固定大小的环形队列,其发布逻辑:![图片](https://mmbiz.qpic.cn/mmbiz_png/dHUzltsJpQsMHUpibOgSB9tj4iaVbseaZHiav0RIpxia6HI61Y86ohwoyxYkic8Zsiaj6CygPU5PEibrVuEMC7kialgKWg/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1)
队列满时的默认行为AsyncLoggerConfig.SynchronizeEnqueueWhenQueueFull=true此时会等待着消费出下一个可以生产的环形 buffer 槽;此时所有打印日志的线程会尝试获取全局锁。此时会阻塞线程,也就是我们上述堆栈中看到的异常。
### 2.4 产生的根本原因
  生产者速度 > 消费者速度:
AsyncAppender 的后台线程从队列中取出事件并交给实际 Appender如 FileAppender处理如果实际 Appender 的写入速度慢(如磁盘 I/O 高消费者线程无法及时清空队列导致队列积压。其实log4j消费时会调用多次 flush这些flush的调用根本在文件写入的 native 调用当这种native调用太多时系统写入不过来。
## 3 应对方案
### 3.1 方案选择
  上述问题情况解决,大致分成两个方向:生产者方向&消费者方向,具体行为如下图简述:![图片](https://mmbiz.qpic.cn/mmbiz_png/dHUzltsJpQsMHUpibOgSB9tj4iaVbseaZHWnueNI4rlREl0V3JSEtRDC1ibkpR4jhZ2XqMFbrsqiarajepynlCIvfA/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1)在应对日志管理的挑战时除了调整日志队列容量等基础优化需警惕OOM风险更核心的问题在于如何平衡日志的详实性与系统稳定性。开发者往往陷入两难若详尽记录日志可能引发阻塞风险若过度精简则排查问题时如盲人摸象难溯根源。
为此,可考虑将日志划分为两类:
功能日志(必须):如埋点数据、核心流程记录,确保业务可观测性;
业务排查日志非必须如RPC入参/出参、调试断点等,按需动态启停;
  通过这种分层策略,既能在高并发场景下保障核心日志的稳定输出,又能灵活控制辅助日志的打印量,使系统整体具备更强的适应性与可控性。如此,我们既能从容应对生产环境的严苛要求,又能在需要时快速激活详尽的诊断信息,实现运维效率与系统性能的兼得。
### 3.2 技术选择
在日志打印的精细化控制中核心在于灵活性与精准度的平衡。传统的全局级别过滤如INFO/WARN/ERROR虽能粗放管理却难以适配复杂多变的业务场景。理想的方案应突破层级限制实现行级细粒度控制——无论是核心链路的关键节点还是特定业务场景的临时调试均可针对单行日志动态启停。
  这种设计赋予开发者更高的自主权:业务视角:按需捕获特定模块的完整上下文;链路视角:精准聚焦某次调用的全生命周期轨迹;应急场景:即时激活深层诊断日志,无需重启或改码。
  通过将控制粒度细化至代码行,我们既能维持生产环境的日志精简,又能随时按业务诉求“点亮”关键路径,使系统可观测性兼具严谨与弹性。
#### 3.2.1 区分必要日志和非必要日志打印:
 自定义封装日志打印的方式如下图所示:![图片](https://mmbiz.qpic.cn/mmbiz_png/dHUzltsJpQsMHUpibOgSB9tj4iaVbseaZHvb9FLG3BmhibttKEy83BOWs8t7gXOdibkPicJaV18MVzicLUKlsO7a1nVQ/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1)
#### 3.2.2 如何对非必要日志进行行级别控制
1、自定义Appender中的filter
在实现行级日志控制时若需精确控制特定代码行如第133行的日志输出采用自定义Appender过滤机制是一种可行方案。其核心思路在于通过解析日志调用的堆栈信息动态判断当前行号是否符合预设的打印条件若不符合则直接过滤。
  然而,该方案存在若干固有局限: 堆栈解析的可靠性问题Lambda表达式中的日志调用往往难以准确获取行号信息即使通过堆栈缓存优化仍存在定位失准的风险性能损耗隐患频繁的堆栈遍历操作会引入不可忽视的性能开销在高并发场景下可能成为新的瓶颈分类管理缺失该机制难以与既有的日志分级体系必需/非必需日志)形成有机协同,增加了运维复杂度。
2、在打印日志前获取日志的行信息
  最简单的方式是人工的形式,在写日志的时候同时将日志的行信息写入进去,比如:![图片](https://mmbiz.qpic.cn/mmbiz_png/dHUzltsJpQsMHUpibOgSB9tj4iaVbseaZHeZpkYq1kU9e6CAgUu57X9iblfAWCDURp2yZhDkJN2HEcicND4nIiciaTLA/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1)这种方式在可扩展性和可观测性维度存在设计缺陷。
3、在编译的时候获取日志的行信息
我们想使用LogUtils.debug(()->log.info("业务日志"));这种方式但是我们不会在代码中明显的写入可以在代码编译期间将行信息获取到后使用字节码修改这行代码利用Java的重写。将它转变成 LogUtils.debug("类+行",()->log.info("业务日志")); 然后再这个方法执行中进行条件判断。
字节码技术选择:
![图片](https://mmbiz.qpic.cn/mmbiz_png/dHUzltsJpQsMHUpibOgSB9tj4iaVbseaZHgVuiaHTK1MtAjYCibgrCVDZJ6oOyx4ac2R1O3CydMwX9fngib5diaWpnoQ/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1)  在本次实现中需要更灵活的方式操作字节码,还要考虑性能的问题,以及对应用框架的支持, 我们选择ASM的形式。
4、如何随心控制开启和关闭
这里我们采用的是ider插件的方式有idea插件上报我们的对这行日志的控制行为如下图所示![图片](https://mmbiz.qpic.cn/mmbiz_png/dHUzltsJpQsMHUpibOgSB9tj4iaVbseaZHNHrI1ibxujSAmoPy2AXYUx8PbdXEyDyl6cJWIJrOEvSaEWYNMcRerIw/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1)
### 3.3 落地实现
#### 3.3.1 Maven编译插件
  目的:获取日志所在的类和行信息。
  运行时获取的方式:在 Logger 配置中启用 includeLocation代码从 LogEvent通过堆栈分析获取行号。这种方式存在很大的弊端堆栈跟踪生成开销很大每次调用 getStackTrace() 时JVM 需要遍历当前线程的调用栈,生成完整的堆栈信息,这是一个 同步且耗时 的操作(尤其在深调用链中),如果每秒有数万次日志调用,频繁生成堆栈跟踪可能导致 CPU 使用率飙升,直接影响吞吐量。
Maven的process-classes阶段获取通过Maven编译之后获取到字节码文件时对字节码文件进行修改存放日志的类和行信息。对运行期间无额外消耗。处理逻辑如下图所示![图片](https://mmbiz.qpic.cn/mmbiz_png/dHUzltsJpQsMHUpibOgSB9tj4iaVbseaZHDvnxCOu4GPuag84E5dITibibdYwfVPKdRwMSIiby36Mb08YNX88CmAWLA/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1)
#### 3.3.2 Idea插件
  目的:精准的控制某一行日志是否进行打印。
利用Idea的插件能力将我们对某一行日志的开启和关闭状态进行上报整个过程不阻塞主线程保持Idea操作流畅性。提供定时能力保障线上我们可以更灵活的控制日志是否打印的状态。处理逻辑如下图所示![图片](https://mmbiz.qpic.cn/mmbiz_png/dHUzltsJpQsMHUpibOgSB9tj4iaVbseaZHSqkWttkMvjV3ELwy9OKhHwrsz1msFA18D5vaOFneT1AJ7QkjtRWIPQ/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1)
#### 3.3.3 整体流程
使用方式通过在项目中使用上述Maven插件对项目进行编译部署使用Idea插件对目标日志的是否开启打印状态进行上报存储状态采用的Apollo的能力通过自定义打印工具类中对Apollo配置内容的分析进一步做判断逻辑最终将日志进行打印或者不打印。处理逻辑如下图所示![图片](https://mmbiz.qpic.cn/mmbiz_png/dHUzltsJpQsMHUpibOgSB9tj4iaVbseaZHU1ibLCk1ZVPspwevm1y1AAX5QKibQ1nXKic2YKA3RWoDlxzlD5ibym8vMw/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1)
## 4 总结
在分布式系统日益复杂的今天日志管理已从简单的信息记录演进为系统可观测性的核心支柱。本文揭示的日志阻塞与策略困境折射出现代化服务在稳定性与可维护性之间的深层博弈。通过剖析Log4j2异步日志机制的内在原理我们识别出队列积压导致线程阻塞的关键症结并由此展开对日志治理体系的深度重构。
本次优化方案突破传统日志分级思维的桎梏创新性地提出双轨制日志管理体系将日志划分为功能型与诊断型两类前者确保核心业务脉络的持续可见后者实现按需动态管控。通过编译期字节码增强技术我们实现代码行级别的精准控制配合IDE插件的可视化操作使开发人员能够像调试断点般自由启停日志输出。这种"外科手术式"的日志管理,既避免了传统方案"一刀切"的弊端,又赋予系统在高负载场景下的弹性适应能力。

File diff suppressed because it is too large Load Diff

View File

@@ -0,0 +1,148 @@
## 一、逻辑与表现分离
①、逻辑层仅处理数据,准备好用于渲染的数据。
②、表现层对已有的数据,进行插值表现,且不会改动数据。
③、两者的帧率可以不同。
## 二、时间相关
①、客户端通过Ping包方式预测服务器的战斗时间。
②、RTT计算方式,发一个Ping包,包含发送时的本地时间戳服务器接收到以后返回这个时间客户端接收到后用最新的本地时间戳减去这个时间就可以得到RTT。
③、RTT计算时服务器还会返回一个服务器的战斗时间取最低RTT的一半加上服务器返回的战斗时间即可以估算为战斗时间。
④、多次模拟,越来越接近服务器的战斗时间。
## 三、预输入
①、非锁步同步中客户端先于服务器运行比如快个3帧。
②、理想状态下,服务器因为有收包缓冲在,每帧都能收到每个客户端的输入。
③、但网络延迟高时,客户端发送的输入,可能超过了服务器的收包缓冲。
④、所以基于RTT的计算在延迟高时
客户端会增大预输入的帧数比如原本发送超过服务器3帧的输入改成6帧。
服务器也会增大收包缓冲,在收到最新的同帧号输入时,会替换之前的输入。
缓冲可以动态调整。
⑤、一般预输入只处理预测失败概率低的操作,比如持续移动。
⑥、客户端冗余发送
## 四、预测
①、客户端先行于服务器,所以需要预测其他客户端的行为。
②、一般基于连续输入原则,比如连续的移动输入等。
③、对于高敏感操作,一般不进行预测。
## 五、回滚
①、在本地帧输入数据与服务器发送过来的帧输入不一致时,发生回滚。
②、找到最近可用的快照,进行推进。
③、逻辑层回滚技巧:
基于帧索引的可序列化数据,比如随机数状态,属性等。
针对于大型的,序列化成本较高的数据,可记录每帧变动的指令,在回滚时,逐帧逐条回滚这些指令。
④、表现层回滚技巧:
表现层一般设计为可插值,而非多帧状态累加。
有一些效果,可等到逻辑帧确认后再表现。
插值回滚,而不是瞬间表现到位。
⑤、ECS回滚参考
Entity/Component不增删时拷贝整个Entity/Component的数据块。
Entity删除时可标记为禁用等确定不回滚后再删除增加时操作记录回退。
Component增删时操作记录回退。
## 六、追帧
①、落后太多时,可选择最近目标帧的快照进行处理。
②、一般会设置当前帧可用于追帧的时间,避免追帧卡顿。
## 七、快照
①、较大的间隔生成全量快照比如1秒。
②、较小的间隔生成增量快照,记录基于全量快照的变动。
③、OOP中一般通过标签或者内建数据结构类实现序列化、反序列化、数据变动记录。
④、ECS中一般关注Entity数量、Component数量和数据即可。
⑤、序列化一般使用自定义二进制,且数据一般为整数,如果对大小有要求,可以参考整数压缩方案。
## 八、日志
①、常规日志,比如输入,行为,随机数,属性等。
②、自动日志,大致实现思路:
遍历所有涉及逻辑的代码文件,通过正则表达式,查找到所有的有值类型参数的方法。
生成记录代码包括宏开关记录方法ID(方法名经过映射后的ID),参数数量,每个参数大小的代码和记录值的泛型接口代码。
③、哈希相关:
每次记录可算哈希,每帧可算哈希,多帧哈希可叠加。
哈希计算是可能会有冲突的,尽可能的降低计算成本与哈希冲突。
④、不一致定位,定位哈希不同的帧和定位同帧下的不同步点。
## 九、不同步
①、基于日志定位。
②、可能的原因:
使用了浮点数相关的模块比如内置数学API、物理模拟、动作、自定义库等。
使用了字典,遍历顺序不一致。
多线程操作数据先后,执行结果处理先后。
“我”的开发角度,使得逻辑倾向于其中一方。
工具类、单例类有未纳入序列化的数据。
## 十、定点数
①、选择合适精度,这涉及计算性能与内存开销。
②、开方,快速近似查表代替循环。
③、反三角函数,查表代替泰勒展开(循环)。
## 十一、多世界
①、尽量不要使用有状态(数据)的单例类。
②、可以存在无状态(数据)的静态类,工具类,辅助类等。
## 十二、其他
①、帧同步中,没有秒的概念,只有帧的概念,秒的相关数据都需要转换成帧。
②、逻辑帧中的延迟模块,一定是由逻辑帧去轮询,比如自定义协程、延迟模块等。
③、客户端和服务器都有帧缓冲,客户端快照也会有缓冲,以减少内存使用。
④、预测帧数高时,预输入帧数可对应降低。