夜雨聆风学习资料网

ARTICLE · 1232517

Excel装不下的1110万行数据,我用两段脚本

Excel装不下的1110万行数据,我用两段脚本

Excel装不下的1110万行数据,我用两段脚本

看着电脑屏幕上那两个密密麻麻的文件夹,我靠在椅背上叹了口气。手头要核对一次数据同步,结果光最大那张表就被拆成了185个文件,足足1110万行。Excel根本塞不下,强行合并只会让电脑直接卡死。

这次我没急着催AI写代码,而是先把数据怎么拆的、难在哪跟它交底。AI没用笨重的数据库,而是推荐了轻量级的DuckDB,几秒钟就能搞定千万级数据。更踏实的是,它没急着甩代码,反而先跟我确认了表名和主键这些边界条件。

AI把活儿拆成了两步:第一步先把几百个文件读进本地库,第二步再跑比对逻辑。为了方便排查,它还顺手给每条数据加了来源文件名。结果一跑,某个金额字段竟然报出155万条差异,吓得我一激灵。

定神一看全是乌龙:一边导出保留6位小数,另一边抹掉了末尾的零。为了防长编号变形,所有字段都被当成了字符串,机器老老实实逐字比对,把“0.000000”和“0”当成了天壤之别。改成数值比较后,差异瞬间清零,真正要人工复核的只有37条。

原文Excel装不下的1110万行数据,我用两段脚本搞定了
海南,2小时前,

相关学习资料