RAG 召回总翻车？试试这个文档切片神器

做 RAG 最烦的不是模型不行，是文档切块翻车——太大丢上下文，太小语义断。提示词调烂了才发现，根因全在最朴素的切片上。

cactus-compute 开源的 Needle 就是来解决这事的。它不卷大模型，专把“切块”做到工程级。Go 写的，一条命令就能跑完整套流水线。

切得细：按 token、句子、段落甚至标题层级切都行。还能设重叠窗口，避免一刀切断语义。
扛长文：上百页的 PDF 流式读取，不一次性吃满内存。切完还带页码和章节元数据，方便溯源。
跑得快：单实例每秒切两百多份，内存不到 500MB。比 Python 工具快三到五倍，一个二进制文件零依赖启动。
好接入：内置轻量索引，能直接写进本地向量库。输出格式兼容 LangChain、Dify，现有系统无缝接。

不过它只给命令行，纯业务人员就别碰了。要的是快、轻、可控选它；要生态完整还是用老框架。

建议先用小批量文档测测召回效果，确认没问题再放量。