←AI 实践笔记
Lesson 0014 · 约 12 分钟

导出是一桶装满再倒

11-02 下午,订单、运单、风控三个列表同时没数据:vcm-order 进程没了。前一刻有人在连续导出运单。

这一课学会一件事:看到一个导出,用「行数 × 同时在跑几个」估出它会不会把服务撑爆,并且知道限量、加锁、防连点、分批写、异步导出这几种改法各自防住了什么。

先看东西在哪:一只所有人共用的桶

每个后端服务(比如 vcm-order)启动时会向机器要一块固定大小的内存,叫堆。这个服务处理的所有请求——查订单列表、查运单、风控、货主付款、中台查运费——用的都是这同一只桶。

数据库

运单表,几十万行

→
vcm-order 的堆(桶)

导出把查到的行全部装进来,变成一个 List,再整体写成 Excel

→
浏览器

下载 xlsx 文件

这就是 OrderWaybillController 里导出的原样(上线修复之前):

List<OrderWaybillListExcel> list = orderWaybillService.getOrderWaybillExportList(orderWaybill);  // ① 查,全部装进桶
ExcelUtil.export(response, "运单信息列表...", "运单信息列表", list, OrderWaybillListExcel.class);   // ② 整桶写成 Excel

读法:第 ① 行跑完,满足条件的每一行运单都已经在桶里了,一行不少;第 ② 行写完,这些行才能被清掉。0012 讲过的 Mapper XML 决定第 ① 行查哪些列——这里是 45 列。

图里数据库和浏览器都不在桶里:数据库再大、文件再大都不直接占 vcm-order 的内存,占内存的只有中间那个「同时装着的 List」。

实测:一行运单在桶里有多重

用 vcm-order 真实的导出类 OrderWaybillListExcel(51 个字段)和项目里同一个 EasyExcel,在本机造了按真实长度填的数据(地址 35 字、名称 8 字、单号 19 位),量出来是这样:

行数
List 本身
写 Excel 时桶里最多
生成的文件
5,000
12.8 MB
67 MB
0.9 MB
30,000
76.9 MB
216 MB
5.7 MB
100,000
257 MB
586 MB
18.9 MB

两个数要记住:

「写 Excel 时最多」包含了还没来得及回收的垃圾,不全是活数据,但桶得腾得出这块地方。所以下面又把桶限死,直接看「跑不跑得完」。

把桶限死:几个一起跑就装不下了

同一份数据,限定堆大小,让 1 个或 4 个导出同时跑(每段是一个导出,宽度按「行数 × 2.7 KB × 1.5」估算;红色=桶边上已经塞不下的那一个):

128 MB 桶1 个 × 3 万行
导出 1
跑完
256 MB 桶4 个 × 3 万行
导出 1
导出 2
撑爆
512 MB 桶4 个 × 3 万行
1
2
3
4
跑完
1 GB 桶4 个 × 10 万行
导出 1
导出 2
3、4 装不下
撑爆

实测原始结果:3 万行单个,96 MB 撑爆、128 MB 跑完;3 万行 4 个,256 MB 撑爆、512 MB 跑完;10 万行单个 512 MB 跑完;10 万行 4 个,1 GB 撑爆、2 GB 跑完。撑爆时报的都是 OutOfMemoryError: Java heap space。

估算口诀

一个导出要的桶 ≈ 行数 × 2.7 KB × 1.5(3 万行 ≈ 120 MB);再乘以同时在跑的个数。行数翻倍和并发翻倍,对桶来说是一回事。

这个实测没算两样东西,真实情况只会更紧:一是服务本身常驻的东西(Spring、缓存、同时在处理的其他请求);二是数据库驱动在交给 MyBatis 之前,默认也会把整批结果先读进内存。Oracle 官方说法:堆里「没有足够空间分配一个对象」时抛这个错,而且不一定意味着内存泄漏,可能就是堆不够这个应用用——这次正是后者。

Retrieval Practice · 1 / 4 · 实测数据

堆限定 256 MB,4 个 3 万行的运单导出同时跑。结果——

11-02 是怎么从「1 个」变成「4 个同时」的

SLS 里逐条导出的时间线(每次导出从 SQL 查完到最后一条日志):

时刻
发生了什么
桶里同时有几个
09:03 ~ 10:23
导出 6 次,全部成功
1 个,跑完就清
13:33 ~ 13:39
导出 7 次,每次写 23~45 秒后报 Can not close IO,约一分钟重试一次
1~2 个
13:43:00 ~ 13:43:43
43 秒内又点了 4 次,4 次都没有结束日志
4 个
13:45:54
vcm-order 最后一条日志,之后进程没了
—

Can not close IO 的意思是:服务器把 Excel 写完了,要收尾时发现浏览器那头早就挂了。用 0013 的话说,这是又一通「等太久挂掉的电话」——而且挂电话不会让服务器停手,它照样把这一桶装满、写完,才发现没人收。

引发 · 一次导出太大

这批数据大到写 Excel 要几十秒,每次都超时失败。之前 10-16、10-20 也失败过,那时的写入只有 2~10 秒,这次明显大得多。

放大 · 重试 + 连点

失败了就再点;点了没反应又连点。每点一次,桶里就多一份完整的数据。最后 4 份同时在桶里。

这是 0013 的老规矩:先拆「谁引发、谁放大」。只治放大(防连点),一次够大的导出照样会失败;只治引发(限量),连点仍然会叠加。

Retrieval Practice · 2 / 4

用户看到导出失败,立刻又点了一次。这时服务器上「上一次」的导出——

五种改法,各防住什么

判断一个修复方案时,别问「它好不好」,问「它防住了引发,还是放大」。

改法
防住了
防不住
现状
限量
超过 10 万行直接拒绝
(11-03 由 3 万放宽:3 万会挡住 4~6 月任一高峰单月)
单次太大(引发)
超过 10 万行的需求
已合 test,随下批后端上
全局锁
同一时间只跑一个
多个叠在桶里(放大)
单个就超大
同上
防连点
按钮转圈时点不了
同一页面连点(放大)
多人、多标签页同时导
已上线(前端 979275b)
分批写
每查 5000 行写一批
桶里永远只有一批,和总行数无关
写得慢:照样超过网关 60 秒被挂断
未做
异步导出
提交任务,生成好再下载
超时、内存、重试三个一起
——(代价是一个小需求)
未做

「分批写」不是我们发明的。EasyExcel 官方文档写得很直白:一次把 List 写出去的 simpleWrite「在数据量不大的情况下可以使用(5000 以内……)」,数据量大要用「重复多次写入」——按数据库分页一页一页写。我们的 ExcelUtil.export 正是前一种,却用来导 3 万行以上。

Retrieval Practice · 3 / 4 · 混合练习

业务确实需要一次导出 10 万行运单,既要导得出来、又不能把服务打挂。该上哪个?

你自己能做的三个检查

  1. 导出前看列表上的「共 N 条」

    N × 2.7 KB × 1.5 ≈ 这次导出要的桶。3 万条 ≈ 120 MB;如果同事也在导,再乘以人数。N 过了 10 万,后端上线后会直接提示缩小范围。

  2. 服务挂了,先看它是「被撑爆」还是「别的原因」

    仓库里的生产启动脚本 doc/jenkins/prod/setStartEnv.sh 已经带了 -XX:+HeapDumpOnOutOfMemoryError:Java 内存溢出时会在部署目录留下 vcm-order-heapdump.hprof。请孝恒看一眼服务器上有没有这个文件、是不是 11-02 13:45 左右生成的——有,就坐实是桶撑爆;没有,就要查机器层面(被系统杀掉也不会留这个文件)。

  3. 列表全空时,先分清是哪个服务没了

    不带令牌访问 /api/vcm-order/xxx:返回 401 = 服务在线;返回 404 = 网关找不到它,服务没了。11-02 就是这么一眼看出来的。

我前一天说错了一处:我建议过「给生产加上 HeapDumpOnOutOfMemoryError 参数」。写这节课时翻了部署脚本,仓库里的生产配置早就有这个参数。所以该做的不是「加参数」,而是第 2 步「去服务器上找那个文件」。仓库脚本和生产实际是否一致,也要请孝恒确认。

Retrieval Practice · 4 / 4

两个同事同时各导出 3 万行,对 vcm-order 的桶来说,相当于一个人导出多少行?

接着读什么

主源:EasyExcel 官方文档 · 写 Excel(中文,一手)。只读两段:「最简单的写」开头那句「5000 以内」的提醒,和「重复多次写入」的示例代码——循环里每次「分页去数据库查询数据」再写一批。读完你就能看懂分批写改的是哪两行。

辅源:Oracle · Understand the OutOfMemoryError Exception(英文,一手)。只看 Java heap space 和 GC overhead limit exceeded 两小节:后者解释了为什么撑爆前服务会先变得极慢。

速查卡:导出与内存速查。

有不清楚的直接问我。这一课刻意没讲:垃圾回收(GC)具体怎么工作;数据库驱动的流式读取怎么开;异步导出任务怎么设计(任务表、下载中心、钉钉通知)。想听哪个,说一声。