接口慢别先抠分配:先审请求放大与全量再分页

接口慢别先抠分配:先审请求放大与全量再分页

Hello,我是小兔大白糖。 静态审计转一圈,同事最爱先问:「要不要少分配几个对象、goroutine 池是不是太小?」——多数现场的真相更土:每个请求干了太多数据与 I/O。写成这篇,给要做 API 请求放大审计心智模型 调研的初中级后端同学:先减载,再换轮胎花纹。

说明:列表 / 会话 / 发送类 API 只作场景举例;机会等级 High / Medium / Low 是分析框架,不是生产事故定级。伪检查与数字均为教学脱敏示意。同站分工:Mongo 慢查询 × OTel 合计 管怎么量、怎么不说谎;本文管源码里先找什么病。异步边界另见:两层异步。

估计阅读时间:10 分钟


目录


为什么现在要关心

硬规则一:先减每请求的数据量与往返次数,再谈 goroutine / 微分配。

压测 P95 抖、会话一多接口就炸、发消息偶发秒级——现场很容易先上 worker pool、先抠对象池。改完「看着很勤快」,用户体感常常不动。原因很直白:病在请求放大(request amplification),不在池子大小。

可复述硬规则(删掉比喻也成立):

  1. 分页合同要在存储层生效——禁止先把宇宙 hydrate 进内存再 slice。
  2. 按行注水(enrich)默认有罪,直到证明可批取或可缓存。
  3. 请求路径上的固定 sleep / 同步外部副作用本身就是一种放大。
  4. 无流量证据时只用机会等级,不宣告生产 P0。
  5. 深分页优先游标 / 键集(keyset),少走大 offset 重扫(若产品必须稳定「第 N 页」语义,另写合同,勿假装 offset 免费)。
先治理请求放大,再做微优化
先治理请求放大,再做微优化 · 点击查看 SVG 原图

问题空间:绿了还慢,病在放大

先问「这一趟请求碰了多少次存储 / 下游、搬了多少不该搬的数据」;答错题,池子调再大也像在治错病。

你看到的常见真相
P95 随「会话 / 列表变多」近似线性炸brief / list 全量 hydrate 再内存分页
翻页越往后越慢每条消息 / 每行列表 串行 enrich
发送接口偶发秒级路径上 同步 短信、推送扇出、固定 sleep、重活
改完 worker pool 没感觉病在放大与副作用,不在池容量
慢日志单条都绿Type A:大量快查询堆成合计放大——尺子见 OTel 审计文

非目标先钉死:

  • 不把「源码味道难闻」直接写成生产事故等级。
  • 不把 GraphQL vs REST 的协议差,当成还没审放大之前的「性能根因」。
  • 不把「Service 太胖、该拆子系统」与放大混为一谈——常同源,但治理项要分开排期。

心智模型:先减载,再换花纹

主比喻:货车与图书馆。

类比含义适合回答
先把货车减载,再换轮胎花纹放大治理 vs 微优化这一迭代先改什么
把整库搬进客厅再数前 20 本全量再分页分页合同有没有落到存储
每本书单独跑一趟图书馆盖章N+1 enrich列表行有没有串行注水

一句话:别先换花纹;先把「整库搬客厅」这件事删掉。

类比局限:这套比喻解释源码态病征与治理优先序;解释不了线上 QPS / P95 该先修哪条路由——那要用请求级 DB 合计与路由墙钟,见 OTel 审计文。


精确定义:四种病征

把「慢」拆成可勾选的红灯,而不是一句「再优化一下」。

病征人话定义红灯信号(教学)
全量再分页先拉齐候选全集(或接近全集),在应用内存里 offset/limitloads_full_universe_before_page == true
N+1 注水列表 / 时间线循环内,按行触发存储或下游enrich_per_item_in_loop == true
同步副作用用户关键路径上等外部扇出、固定 sleep、可延后重活sync_side_effect_on_critical_path == true
深 offset 重扫大页码靠跳过大量前缀行;越深越贵可用游标 / 键集却仍走深 skip/OFFSET

补充边界:

  • 投影(projection):列表 brief 只取展示字段,不是「少写两行代码」,是少搬数据。
  • 批取:把 N 次按 id 查收成 1~k 次 IN / $in / 批量 RPC——有上限与超时合同,不是无限拼超大包。
  • 异步化副作用:移出请求路径能降尾延迟,但换来积压、至少一次投递、幂等与可见性超时——边界见 两层异步。
四种请求放大病征
四种请求放大病征 · 点击查看 SVG 原图

治理优先序:业界常见做法

调研默认:请求放大审计优先;再用线上证据重排 backlog。

模式做法优点代价 / 边界
A. 微优化优先抠分配、改命名、小重构diff 小、看起来勤快常测不出用户体感;掩盖放大
B. 只修单条慢查询盯 max ms 形状、补索引能抓重扫漏「多条快查询合计放大」
C. 请求放大审计优先全量分页 / N+1 / 同步副作用 / 深 offset 排队治理对准每请求成本常要改查询形状或契约;需回归

默认选 C,再拿慢日志形状 + 请求内 DB 合计重排——尺子与「禁止混表说谎」见 OTel 审计文。

典型 High 机会(教学优先序,真实 backlog 用路由级合计重排):

  1. 发送 / 写路径上的同步外部副作用移出请求(接受队列积压与幂等成本)。
  2. 非适用路径仍创建昂贵状态机 / 聚合对象——短路掉。
  3. 「我的列表 brief」全量再分页 → 存储层分页 + 投影。
  4. 大厅 / 列表行统计 N+1 → 批查询。
  5. 消息页 / 时间线 enrich 批量化。
  6. 发现类列表应用内存分页 → DB / 搜索引擎分页。
  7. 已读 / 回执逐条更新 → 区间或批量语义(产品合同要一起改)。

Medium / Low 留给:命名整理、与放大无关的结构拆分、无证据的「感觉慢」猜想。无 profile / 无路由级合计时,只用机会等级,别口头升级成生产 P0。


可复述审计清单

七步:列入口 → 数往返 → 标病 → 机会排序 → 改法 → 验收尺子 → 拆分另项。

请求放大审计漏斗
请求放大审计漏斗 · 点击查看 SVG 原图
  1. 列出高扇出入口
    list / brief / send / timeline / search 一类——按「一次调用可能扫很多行」选,不按文件名漂亮程度选。

  2. 每条画「一次请求碰几次存储 / 下游」
    手画或临时计数器均可;目标是看见扇出,不是完美 APM。

  3. 标四种病
    全量再分页 / N+1 / 同步副作用 / 深 offset。

  4. High / Med / Low 机会排序
    无流量证据时停在机会等级;有证据再用请求级合计与路由 P95 重排。

  5. 改法优先序
    投影 → 批取 → 游标 / 键集 → 副作用异步化。每一项都写代价:契约变更、积压、幂等、回归面。

  6. 改后验收
    用请求级 DB 合计与路由 P95——不要只看「单条变快了」。尺子细节交给 OTel 审计文。

  7. 胖 Service「子系统化」单独拆分
    常与放大同源,但拆模块 ≠ 减往返;别用重构冒充性能交付。

教学伪检查(示意,非某框架 API):

for each hot_route:
  count_db_calls_per_request()
  loads_full_universe_before_page?   # red
  enrich_per_item_in_loop?           # red
  sync_side_effect_on_critical_path? # red
  prefer_cursor_over_deep_offset?

分享向代码到此为止:删掉围栏,上面七步与硬规则仍应成立。


常见坑

从治理诚实度看,下面几条会把「审过了」直接写成「优化完了」。

  1. 无证据把源码味道标成生产 P0
    机会等级可以 High;事故等级要流量与合同。

  2. 先全站上 worker pool「优化体感」
    池解决的是并发与排队形态;解释不了全量 hydrate。异步分层见 两层异步。

  3. 分页只写了 limit,数据已经在内存
    HTTP 参数好看 ≠ 存储层分页合同生效。

  4. 为微优化推迟删除同步 sleep / 同步扇出
    固定等待是最便宜的红灯;先摘它,再谈分配器。

  5. 把协议差(GraphQL / REST)当性能根因,却还没数过往返
    协议可以影响形状,但放大审计没过之前,换协议常是换一种写法继续 N+1。

  6. 批取拼成无界大包
    从 N+1 逃到「一次打爆连接 / 超时」——批要有上限与超时。

  7. 游标改造不改客户端合同
    服务端 keyset 了,客户端仍只传深 page 号——病还在链路上。


选型结论

  1. 静态审计默认:放大优先于微优化——先减数据量与往返,再抠分配与池参数。
  2. 四种红灯可勾选:全量再分页、N+1 注水、同步副作用、深 offset。
  3. 无流量证据用 High/Med/Low;有证据用请求级合计与路由 P95 重排,不混表。
  4. 与同站两篇分工:本文找病;OTel 审计文 量病;两层异步 管副作用搬出请求后的合同。
  5. 可带走的两句:别先换轮胎花纹;先把整库搬客厅这件事删掉。

读完若只能转发一句,请转发这句:接口慢,先数这一趟搬了多少、跑了几趟——再谈微优化。