JVM GC 低延迟选型:G1、ZGC、Shenandoah 与停顿预算合同

Hello,我是小兔大白糖。 接口 p99 刚压到预算边缘,监控里却冒出一截「业务没干、线程全停」的空白——排障到最后,经常不是下游慢,而是 GC(Garbage Collection,垃圾回收)的 STW(Stop-The-World,停世界)把延迟合同吃掉了。写成这篇,给熟悉 -Xmx、线程池与超时重试,却还把「堆开大一点」当 GC 解药的后端同学:做一次业界向的低延迟 GC 选型调研。
说明:停顿数字、堆大小与压测结论均为教学示意 / 脱敏,不绑定某司业务栈或内部参数墙。读完带走的是心智模型与取舍清单,不是备考提纲,也不是某仓库的 JVM 模板。
估计阅读时间:12 分钟
目录
为什么现在要关心
GC 停顿是容量合同的一部分:p99 延迟预算里要扣 STW;不是「调大堆就好」。
现场里常见的误伤:
| 你看到的现象 | 常见真相 |
|---|---|
| 业务日志空窗几十到上百毫秒,下游超时扎堆 | 某次 Young / Mixed / Full GC 的 STW 撞上峰值 |
-Xmx 翻倍,尾延迟反而更抖 | 堆更大,单次可回收区域更大;目标停顿没写清时,波动被放大 |
| 吞吐 benchmark 好看,线上 p99 炸 | 批处理收集器优化的是单位时间完成量,不是尾延迟 |
| 「低延迟链路必须上某款收集器」空话 | 没先写清延迟预算、分配速率与 JDK 版本边界 |
| 新系统默认还在 CMS 叙事里 | CMS 已退场;现代服务端默认叙事是 G1,超低停顿再谈 ZGC / Shenandoah |
和系列里线程池「容量合同」同一类问题:你以为在拧性能旋钮,其实在谈失败形态是否可预期。本文钉四件事——停顿进预算、不可能三角、主流收集器代价表、选型时别用参数墙代替测算。
心智模型:清场与容量合同
主比喻:高峰期餐厅清场(STW)+ 座位容量合同(延迟预算)。
服务员(GC)不收盘子(垃圾),桌子很快摆不下新菜(OOM,Out Of Memory)。但清场时客人必须停筷——这就是 STW。不同收集器像不同清场策略:整厅一起清、分区清、尽量边吃边清。
| 比喻角色 | JVM / 选型对应 | 人话 |
|---|---|---|
| 桌子面积 | 堆大小(-Xms / -Xmx) | 更大不等于更稳;清场范围也可能更大 |
| 清场停筷 | STW 停顿 | 计入接口尾延迟,不是「后台悄悄发生」 |
| 「尽量 N 分钟内清完一块区」 | G1 的停顿目标(如 MaxGCPauseMillis) | 目标是合同意向,不是物理保证 |
| 「几乎感觉不到停筷」 | ZGC / Shenandoah 一类低停顿路径 | 账单往往在吞吐、内存足迹、版本成熟度 |
类比局限一句说清:清场解释「为什么要停、停多久进预算」;解释不了具体屏障实现、染色指针位图,也解释不了业务上「这次超时能不能赔得起」——那是 SLA,不是 GC 条款。
精确定义:吞吐、停顿、足迹
先写清优化目标,再选收集器;三者通常不可兼得。
| 指标 | 合同含义 | 低延迟链路怎么读 |
|---|---|---|
| Throughput(吞吐) | 应用线程有效运行时间占比 | 批处理、离线任务常优先;在线接口次之 |
| Latency / Pause(停顿) | STW 持续时间与分布 | p99 / p999 预算里要显式留坑 |
| Footprint(足迹) | GC 自身内存与元数据开销 | 低停顿路径常多付一点内存或 CPU |
硬边界(分享向够用):
- 并发标记 / 并发整理 ≠ 零停顿——现代低延迟收集器仍有短暂 STW(如根扫描、阶段切换);谈的是「把停顿压到可进预算」,不是魔法消失。
- Young / Minor GC、Mixed GC、Full GC 影响面不同——Eden 打满的年轻代回收通常更常见;Full GC 往往是事故信号,不是「调优旋钮」。
- CMS 不作为新系统默认方案——公开演进路径上已废弃并移除;新服务用当代默认(常见是 G1)或明确的低停顿收集器。
和「调大堆」的关系
堆是容量,不是延迟开关。堆变大可以降低 GC 频率,但单次可回收工作量与整理成本也可能上升。低延迟选型先问:预算允许多长 STW、分配有多凶、JDK 版本能不能支撑目标收集器——再谈 -Xmx。
模式对照:G1 / ZGC / Shenandoah / Parallel
业界常见四条路:可控停顿默认、超低停顿大堆、另一条低停顿实现、吞吐优先批处理——每条都有代价。
| 收集器 | 直觉 | 你多买到什么 | 主要代价 |
|---|---|---|---|
| G1 | Region 化堆 + 停顿目标导向;现代服务端默认叙事 | 可预期的停顿目标与分区回收;调的是目标与回收节奏,不是盲目堆参数 | 调参面仍在;目标设过激可能换来更频繁回收、吞吐变差 |
| ZGC | 冲亚毫秒级停顿、大堆友好(公开能力叙事) | 把 STW 压到很短,适合延迟预算极紧、堆较大的在线路径 | 吞吐与内存足迹;对 JDK 版本与压测成熟度更敏感 |
| Shenandoah | 与 ZGC 同属「低停顿」赛道,实现路径不同(如转发指针一类设计) | 另一条公开可用的低停顿选项(视发行版 / OpenJDK 构建) | 同样要付 CPU / 吞吐账单;选型看版本支持与运维熟悉度,不是品牌口号 |
| Parallel | 多线程 STW,吞吐优先 | 批处理、离线任务单位时间干更多活 | 停顿可能明显大于在线预算;别拿吞吐榜单直接指导低延迟链路 |
分享向默认推荐(通用服务,非内部定档):
- 大多数在线服务、延迟预算「可控即可」 → 先 G1:写清停顿目标,观察 GC 日志与 p99,再动少数公开旋钮。
- 预算已逼近亚毫秒~数毫秒、堆明显偏大、JDK 版本够新 → 评估 ZGC(或发行版支持的 Shenandoah);用同负载压测比停顿 与 吞吐,不单看广告数字。
- 纯批处理 / ETL → Parallel 或吞吐导向配置往往更贴;别把低延迟收集器当默认「更高级」。
代价必须写进选型:低停顿买的是尾延迟形态,卖的是 CPU、足迹或吞吐;G1 买的是可预期目标,卖的是「目标不是物理保证」。
公开能力边界(不写参数墙)
只需记住选型级公开开关与版本感,不必背内部模板:
# 教学示意:先选收集器族,再在压测里收敛目标
# G1(现代 JDK 服务端常见默认叙事)
-XX:+UseG1GC
-XX:MaxGCPauseMillis=<目标毫秒,示意;过小可能伤吞吐>
# ZGC(需核对你所用 JDK / 发行版是否生产可用)
-XX:+UseZGC
# JDK 21+ 常见还会讨论分代 ZGC(如 ZGenerational)——以官方发行说明为准刻意不贴:某司内部 JAVA_OPTS 长墙、未公开调优手册、把「风控必须 ZGC」写成结论。公开文章停在模式 + 代价 + 预算测算。
教学场景:先写预算,再开收集器
三个最小场景;代码刻意少,结论应能离开参数独立成立。
1)延迟预算表——先算再选
教学伪流程:
p99_budget_ms = 业务处理 + 排队/池等待 + 下游 IO + GC_STW_allowance
# 示意:若预算 80ms,业务+IO 已占 60ms,则 GC_STW_allowance 只剩约 20ms 量级
# → 收集器与停顿目标必须落在 allowance 内,而不是「堆越大越好」适合:任何声称低延迟的在线接口。
不适合:只贴吞吐 TPS 数字就宣布「GC 没问题」。
2)G1:停顿目标是意向,不是物理定律
把 MaxGCPauseMillis 理解成给预测模型的目标。设得过小,常见副作用是回收更碎、更勤,吞吐与 CPU 账单上升——延迟未必真按数字兑现。
3)迁 ZGC / Shenandoah:对比的是分布,不是平均值
同负载下至少盯:
| 看什么 | 为什么 |
|---|---|
| GC 停顿 p99 / 最大 | 是否进延迟预算 |
| 应用吞吐 / CPU | 低停顿是否用吞吐或 CPU 换来的 |
| 堆占用与分配失败 | 足迹与整理是否扛得住峰值分配 |
| Full GC / 退化路径是否出现 | 低频长停顿往往比「平均很好」更伤 SLA |
数字一律当示意:换机器、换分配形状、换 JDK,结论都要重测。
常见坑
-
只看吞吐 benchmark 选 GC
批处理冠军收集器,可能把在线 p99 打穿。 -
低延迟链路却用大停顿收集器
预算表没写 STW 一行,上线后用下游超时替 GC 背锅。 -
用「必须上 ZGC」空话代替延迟预算测算
没有 allowance、没有同负载对比,只是换了一个时髦开关名。 -
把
MaxGCPauseMillis设成幻想值
目标越激进,越可能换来更频繁 GC;先观测,再小步收紧。 -
小堆场景为了「高级」硬上超低停顿收集器
固定开销与运维复杂度可能不划算;小中堆、预算宽松时 G1 往往够用——以压测为准,不写死阈值神话。 -
Humongous / 大对象分配把年轻代策略打歪
频繁超大对象会改变回收形态;优先减分配或对象生命周期设计,而不是先堆内部参数墙。 -
无 GC 日志 / 无停顿指标就上线
出问题只能猜。至少打开统一日志或 MXBean 停顿观测,把 STW 和接口 p99 放在同一张排障图上。 -
新系统仍以 CMS 为默认叙事
历史文章很多;公开主线上 CMS 已退场。新项目别再把它当默认答案。
选型结论
- 先把 GC STW 写进 p99 预算;堆大小是容量旋钮,不是延迟开关。
- 通用在线服务默认从 G1 的停顿目标叙事起步;调的是目标与回收节奏,不是盲目
-Xmx。 - ZGC / Shenandoah 用于「预算极紧 + 大堆 + 版本支持」;用压测同时验收停顿与吞吐/足迹,不单看宣传数字。
- Parallel 留给吞吐优先的批处理;别拿吞吐榜指导低延迟链路。
- CMS 退出默认候选;公开文章与新系统选型都以当代收集器说话。
- 公开分享停在模式与代价;内部参数墙、某厂未公开手册,不写进可转发正文。
下一步:给核心接口列一张「延迟预算拆分表」(业务 / 排队 / IO / GC allowance)→ 在预发用同一负载对比当前收集器与候选收集器的停顿分布与吞吐 → 只有 allowance 明确吃紧时,再评估 ZGC / Shenandoah。
系列导航:
- 已发布:/blog/java_threadpool_params_and_isolation/(
java-core-deepseriesOrder 1)— 线程池七参数与快慢路径隔离 - 已发布:/blog/java_jmm_volatile_synchronized/(seriesOrder 2)— JMM、volatile 与 synchronized
- 本篇(seriesOrder 6):JVM GC 低延迟选型(G1 / ZGC / Shenandoah)
- seriesOrder 3~5(CompletableFuture / CAS 与 StampedLock / 并发容器)发布后在此补互链
/blog/<slug>/