乐于分享
好东西不私藏

EasyExcel 百万级 Excel 导入导出,内存优化 + 异步任务完整代码,吃透底层架构+生产级方案

EasyExcel 百万级 Excel 导入导出,内存优化 + 异步任务完整代码,吃透底层架构+生产级方案

做企业级后台开发,Excel 导入导出永远是绕不开的需求。运营导出活动名单、财务拉取对账明细、仓库批量更新库存…… 功能看似普通,可一旦数据量从几千行涨到几十万、上百万,问题就会集中爆发:接口超时无响应、服务频繁Full GC 甚至OOM、数据库被全表扫描拖垮核心业务,导入出错还定位不到具体行列。

很多团队上手就用 EasyExcel,觉得靠它就能搞定大文件场景。但线上绝大多数导入导出事故,根本不是 EasyExcel 本身的问题,它只解决了文件读写环节的内存开销,至于异步任务、数据库批处理、错误反馈、限流隔离这些工程问题,一样都不会自动解决。

今天我们从底层原理到生产落地,把 EasyExcel 百万级数据处理的完整方案讲透。

源码地址: https://github.com/alibaba/easyexcel

一、吃透底层:EasyExcel到底靠什么解决大数据内存痛点

很多人用了很久 EasyExcel,只知道它「省内存、适合大文件」,却不清楚它到底做了什么优化。要理解它的核心优势,得先从传统 POI 的痛点说起。

1.传统POI的内存困境:DOM模型的天然缺陷

我们常用的XSSFWorkbook(处理 xlsx 格式)属于 POI 的「用户模型」,本质是DOM树结构:它会把整个Excel 文件的所有Sheet、行、单元格、样式全部解析加载到内存中,形成一棵完整的对象树。

这种模式的问题非常明显:

对象膨胀严重:一个单元格在内存中对应Cell、CellStyle、CellValue等多个对象,数据量越大,内存占用呈指数级上升;

全量加载才能操作:必须等整个文件解析完成,才能开始业务处理,大文件场景下内存峰值极高。

POI 官方其实也提供了 SAX 事件驱动的读取模式,但是原生 API 极其繁琐,需要开发者手动处理 XML 节点事件、类型转换、异常处理,开发成本非常高,绝大多数团队都不会直接使用。

2.读取端核心:SAX事件驱动的逐行流式解析

EasyExcel 的核心价值之一,就是对 POI 的 SAX 模式做了深度封装,让开发者用极简的 API 就能享受到流式解析的能力。

它的底层工作逻辑是:

以输入流的形式读取 Excel 文件,逐层解析 XML 节点;

每解析完成一行数据,就触发一次invoke回调,把行数据转换成 Java 对象交给业务监听器;

处理完成的行对象,不再被解析器持有,随时可以被 GC 回收。

整个过程中,内存里只保留当前行数据、批次缓存和少量解析上下文,不需要加载完整文件。百万行数据导入,内存占用可以稳定在百兆级别,不会随着数据量线性增长。

这也是为什么我们反复强调「不要在监听器里把所有行攒到一个大 List 里」,这种写法相当于把 EasyExcel 的流式优势完全废掉,退化成了传统 POI 的全量加载模式,该 OOM 还是会 OOM。

3.写入端核心:分批刷写+磁盘缓存的流式输出

很多人对 EasyExcel 的写入有误解,觉得只要用了它就自动省内存。实际上,如果你先查全量数据组装成一个大 List,再调用doWrite一次性写出,本质还是全量内存写入,和原生 POI 没有本质区别。

EasyExcel 写入端的真正优势,是支持多次分批写入+磁盘溢出缓存

开发者可以分批查询数据,每查一批就调用一次writer.write()写入;

写入的数据会先进入内存缓冲区,达到阈值后自动刷写到输出流,释放本批次的对象内存;

大数据量场景下,底层会自动将部分数据临时写入磁盘,避免全部堆积在 JVM 内存中,最终合并生成完整 Excel。

配合数据库游标分页查询,就能真正实现「查一批、转一批、写一批、释放一批」,内存占用始终保持稳定。

4. EasyExcel三层架构拆解

从功能分层来看,EasyExcel 的架构可以分为三层,各司其职:

文件解析层:最底层,负责 Excel 文件的流式读写,屏蔽 POI 底层的复杂度,核心解决大文件的内存问题;

对象映射层:中间层,基于@ExcelProperty注解实现表头与 Java 字段的映射,自动完成类型转换、格式处理,降低开发成本;

扩展能力层:最上层,提供监听器、写入处理器、样式策略、动态表头、下拉框等扩展点,支持业务自定义逻辑。

二、生产级导入方案:异步+分批+可追溯,告别超时与OOM

百万级数据导入,最忌讳在同步接口里从头读到尾,用户等待时间长还容易超时。完整的生产级导入方案,必须做好模型隔离、分批处理、异步执行、错误反馈四个核心环节。

1.模型设计:独立Excel DTO,隔离业务实体

很多图省事的写法,直接用数据库 Entity 接收 Excel 行数据,久而久之系统字段和业务字段混在一起,模板一调整就牵连数据库结构,维护成本极高。

更合理的做法是定义独立的Excel DTO,只描述 Excel 文件里的业务字段,再通过转换层和业务实体做映射。

注意:手机号、编码类字段哪怕看起来是数字形式,也优先用String接收,避免Excel自动转科学计数法丢失精度、丢失前导零。

2.监听器实现:批次缓存是核心性能点

EasyExcel 导入的核心扩展点是AnalysisEventListener,但千万别在invoke方法里每读一行就执行一次数据库操作,大量小事务 + 网络往返,性能会差到离谱。
正确的做法是做批次缓存,达到阈值后批量处理:

两个关键细节一定要注意:

监听器不能交给Spring单例管理:每次导入都要 new 新实例,通过构造方法传入业务 Bean,否则多用户同时导入时,缓存和计数器会互相污染;

传参时复制集合:把缓存数据传给业务层前,用new ArrayList<>(buffer)复制一份,再清空原缓存,避免后续修改影响业务层处理。

3.接口异步化:同步接任务,异步做执行

大文件导入,用户上传完文件,接口只做三件事:校验文件格式、保存原始文件、创建导入任务,然后立刻返回任务ID。真正的解析和落库,交给独立的异步线程池后台执行。

控制层代码:

应用服务层 + 异步执行:

独立线程池配置:

线程池队列千万不要设太大。队列过长只会让任务堆积,把内存和数据库压力延后爆发,不如直接拒绝,让用户错峰使用。

4.三级校验+错误报告:错在哪一目了然

导入最影响体验的不是失败,而是失败了不知道哪错了。业务人员只关心「第几行、哪个字段、为什么错、怎么改」。

生产环境建议做三级校验,兼顾性能与准确性:

  1. 基础格式校验:必填校验、长度限制、数值范围,内存内完成,不查库;
  2. 引用数据校验:类目、门店等编码是否有效,先收集本批次所有编码,批量查询后内存判断,绝不逐行查库;
  3. 业务一致性校验:批次内编码是否重复、库存是否合法等业务规则校验。

校验出的错误统一收集,最后生成带错误原因的 Excel 报告,用户下载后直接对照修改即可。

三、百万级导出方案:游标分页+异步任务,拒绝全量查询

导出比导入更容易写崩,很多人的常规写法是:先把符合条件的数据全查出来放到 List 里,再直接doWrite输出。几千行没问题,几十万行下去,内存、数据库、网络会同时扛不住。

1.核心思路:游标分页+分批写入

分页查询绝对不能用limit offset,百万级数据下,offset 越大,数据库扫描丢弃的行数就越多,性能衰减非常明显。推荐用基于主键ID的游标分页,每次查询带上次查到的最大 ID 作为游标,性能全程稳定。

2.大文件必须异步导出

百万级导出绝对别做同步下载。浏览器、网关、Nginx 都可能超时,用户中途关个页面,服务端已经消耗的 CPU、数据库资源就全浪费了。
和导入逻辑一致,用户提交导出条件后创建任务,后台生成文件,上传到对象存储,完成后通知用户去导出中心下载。既不占用请求线程,还能保留历史文件,方便审计和重复下载。
小数据量(几千行以内)可以保留同步导出,兼顾体验与性能。

四、全链路性能优化:从JVM到数据库的避坑指南

很多人用了 EasyExcel 还出现性能问题、OOM,基本都是业务代码破坏了流式处理,或者数据库、资源配置不合理。

1.内存优化:别让业务代码毁了流式优势

这些常见写法,会直接废掉 EasyExcel 的内存优化:
  • 导入时把所有行攒到一个全局大 List 里再统一处理;
  • 导出时先selectList查全量数据,再调用 EasyExcel 写入;
  • 生成错误报告时,一次性把所有错误明细查出来;
  • 每一行都打印 info 日志,百万行日志会拖垮磁盘 IO 和日志系统;
  • 把整个导入放进一个大事务里,持有大量数据库连接与锁资源。
优化核心原则:能分批就不全量,能处理完就释放,数据不停留、不堆积

2.数据库优化:批量写入才是性能拐点

导入性能的瓶颈,90% 都在数据库。逐行插入的性能和批量插入,差出 10 倍都很正常。
开启批量写入参数MySQL 驱动默认不会真正批量执行SQL,需要在连接串加上rewriteBatchedStatements=true,驱动会自动把多条 SQL 合并成批量语句,性能提升非常明显。

spring.datasource.url=jdbc:mysql://127.0.0.1:3306/demo?useUnicode=true&characterEncoding=utf8&rewriteBatchedStatements=true

批量Upsert实现如果是「存在则更新,不存在则插入」的场景,先批量查询出已存在的数据,再拆分插入列表和更新列表,别每行都查一次是否存在。
临时表方案数据量特别大、校验逻辑复杂的场景,可以先把解析后的数据写入临时表,全部校验通过后再用SQL 批量合并到正式表。这种方式性能更高,也更容易做数据对账和回滚,适合企业级核心场景。

3.资源隔离与部署建议

导入导出是典型的重任务,CPU、IO、数据库资源消耗都很高,建议:
  • 线程池独立:导入、导出、核心业务各自用独立线程池,避免互相抢占;
  • 服务独立:如果导入导出量非常大,可以把这部分能力拆成独立服务,和核心交易服务部署隔离,就算 Excel 服务打满,也不影响主业务;
JVM 调优:大文件处理服务可以适当调大新生代,减少对象晋升到老年代,降低 Full GC 频率。

五、任务治理:可观测、可追溯、可管控

没有任务表的导入导出,就是一笔糊涂账。用户问「我的任务跑完了吗」「为什么失败了」,根本答不上来。
建议建立统一的文件任务表,核心字段如下:

两个关键细节:

进度批次更新:别每处理一行就更新一次任务表,每处理完一个批次更新一次即可,频繁更新会增加额外数据库压力;

任务幂等控制:如果用消息队列执行任务,消费者必须判断任务状态,只有待执行状态才能启动,避免重复消费导致重复导入导出。