最近两个月，我身边好几个 Java 同事都在问同一件事：AI 怎么接进我们现在的项目？

纯调 API 的阶段已经过了。现在大家想做的是真正有用的东西，比如让系统能查公司内部资料，或者让用户用一句话就能把数据库查出来，或者跑个自动化的 Agent 帮你处理重复任务。

我整理了 8 个觉得值得花时间的 AI 开源项目，全部面向 Java 生态。选这些的标准很简单：GitHub/Gitee 上有实际代码、文档还过得去、方向符合工程实践。

以下不排名，按使用场景从基础框架到应用级别排列。

一、LangChain4j

Java AI 开发的”底层乐高”

GitHub：https://github.com/langchain4j/langchain4j

Star：11.8k（截至 2026 年 5 月）

坦率的讲，如果你问我 Java 生态里 AI 框架哪个最成熟、资料最多，我会先推 LangChain4j。

这个项目从 2023 年初开始做，目前已经到了 1.14.x 版本。它不是 Python LangChain 的移植，是从头用 Java 写的，代码风格非常 Java 味：接口、注解、强类型、依赖注入，跟你平时写 Spring Boot 的感觉差不多。

支持 20+ 大模型提供商、30+ 向量数据库。OpenAI、Gemini、Anthropic、DeepSeek、Ollama 都能接。背后有 Microsoft 和 Red Hat 在维护，不太用担心项目烂尾。

几个核心能力：

• • AI Services：声明一个 Java 接口，加上 @SystemMessage 之类的注解，框架帮你把大模型调用逻辑全实现了，不用手写 HTTP 请求
• • Easy RAG：一行代码就能跑起来最基础的文档问答
• • MCP 支持：接入 Model Context Protocol，Agent 可以连接外部工具（GitHub、Slack、数据库之类的）
• • 多 Agent 协调：支持 SupervisorAgent，可以把多个子 Agent 编排起来跑复杂任务

我自己在搞的一个内部知识库项目就用了它，接的是 Ollama 本地模型，前期跑通 RAG 流程大概花了两天，文档够用。

适合场景：想从零开始构建 RAG、Agent、多模型对接的 Java 项目，或者不打算绑定 Spring 的场景。

二、Spring AI Alibaba

面向企业 Java 的 Agentic 框架

GitHub：https://github.com/alibaba/spring-ai-alibaba

文档：https://java2ai.com

这是阿里开源的 Java AI 应用框架，2025 年年中正式发布 1.0 GA，现在版本到了 1.1.x。

官方定位是”面向 Java 开发者的 Agentic AI 框架”，不只是接模型的适配层，而是一套完整的智能体开发工具链。

架构分三层：最底层是基础的模型调用和 RAG；中间是 Spring AI Alibaba Graph，处理有状态的多步工作流；最上层是 Agent Framework，内置了 SequentialAgent、ParallelAgent、RoutingAgent、LoopAgent 这几个常用的编排模式。

还有一个 Spring AI Alibaba Admin，是可视化的 Agent 开发平台，支持在界面上配置 Agent、管理 MCP 工具、查看运行轨迹。

我觉得这个框架最值得关注的点，是它把 Nacos 集成进来了。你现有的微服务架构如果用 Nacos 做服务发现，Agent 之间的跨服务通信可以直接复用，不用额外搞一套通信机制。

要求 JDK 17+，Spring Boot 3.3+。

适合场景：已经用 Spring Cloud/Spring Boot 搭了一套微服务的团队，想在现有架构上加 Agent 能力，不想大改。

三、JManus

用 Java 也能跑 Manus 级别的 Agent

GitHub：https://github.com/spring-ai-alibaba/jmanus

今年 Manus 火了一阵，但那是 Python 写的。JManus 是阿里用 Spring AI Alibaba 做的 Java 版本，功能对标 OpenManus。

不要以为只是复刻一个演示项目。据官方说，这个东西现在已经在阿里内部的一些业务场景里真实使用了。

核心能力：

• • PLAN-ACT 模式：给它一个复杂目标，它会自己拆任务、逐步执行，执行到一半遇到问题还会调整计划
• • MCP 工具集成：支持接入各种 MCP Server，Agent 可以调用外部服务和 API
• • 前端 UI：自带一个网页界面，可以在浏览器里配置 Agent 参数，看 Agent 的思考过程
• • 支持 Ollama 本地模型：不强制要你买云端 API，可以跑本地

部署也比较方便，官方提供了 Docker 镜像和直接可跑的 JAR，不用从源码编译。

说实话我自己还没完整跑一遍，但想想就觉得这个方向特别实际——企业里大量重复性的内部流程（数据整理、日志分析、API 编排），扔给一个 Java 写的 Agent 处理，比每次都手动做强多了。

适合场景：想在 Java 项目里实现自主规划的 Agent，处理多步骤任务自动化。

四、Spring AI

Spring 官方的 AI 集成方案

GitHub：https://github.com/spring-projects/spring-ai

Star：8k+

这是 Spring 官方出的，2025 年发布了 1.0 GA。如果你对 Spring 生态有信仰，这个框架可以作为你的第一选择。

设计思路跟 Spring Data 有点像——用接口抽象掉底层差异。无论是 OpenAI、Claude、通义千问，对外暴露的是同一套 API，换模型只需要换配置。

Advisors 机制是它比较有特点的地方，相当于 AI 调用的拦截器。想给每次对话加 RAG？加一个 Advisor。想做日志监控？也是加 Advisor。不需要改业务代码。

MCP 支持在 2025 年也做进来了，不过生态成熟度还不如 LangChain4j，部分功能还在迭代。

有个地方这块需要注意一下：Spring AI 比较”Spring 化”，如果项目没用 Spring，接入成本比较高。LangChain4j 相对来说对框架没有要求，Quarkus、Helidon、Micronaut 都能用。

适合场景：已经在 Spring Boot 体系里、追求官方支持和长期稳定性的团队。

五、Deep Java Library（DJL）

在 Java 里跑大模型推理

GitHub：https://github.com/deepjavalibrary/djl

官网：https://djl.ai

AWS 出品，解决的问题很直接：在不依赖 Python 的情况下，让 Java 应用能加载和运行深度学习模型。

引擎无关是它最大的特点。你可以写一套代码，然后自由切换底层引擎：PyTorch、TensorFlow、ONNX Runtime 都行，不用改逻辑。

2025 年以来重点在大模型推理方向，最新版本（0.36.0）支持 DeepSeek、Llama 4、Qwen 3 等主流模型的本地推理。DJL Serving 支持 Continuous Batching 和 Token Streaming，适合做高吞吐量的推理服务。

还支持 AWQ、GPTQ、FP8 量化，跑本地模型更省资源。

配合 Java 21 的虚拟线程，处理高并发推理请求比 Python 的异步机制在某些场景下更直接。

老实说，DJL 的学习曲线比 LangChain4j 陡不少，主要是机器学习概念多。但如果你的需求是”在 Java 里跑一个本地模型做推理，不想走外部 API”，这基本是唯一靠谱的选择。

适合场景：需要本地推理、不依赖外部 API、高性能推理服务、或者想在 Java 里训练小模型。

六、ai4j

JDK 8 兼容的大模型接入套件，这是一个过渡框架，捞老系统用的，毕竟用Java8的老系统存量还有一定规模。

GitHub：https://github.com/LnYo-Cly/ai4j

你如果还在维护老系统，JDK 8，Spring Boot 1.x 或者 2.x，那 Spring AI 和 LangChain4j 你基本用不了，因为它们都要求 JDK 17+。

ai4j 正好瞄准这个缺口。JDK 8+ 就能用，支持接入 OpenAI、DeepSeek、智谱 AI、腾讯混元、Ollama、MiniMax、Moonshot 等主流大模型，还有 RAG 和 Tool Call 能力，也支持 MCP 协议。

可以直接接入 Dify、Coze、n8n 这类低代码工作流平台，作为其中的一个执行节点。

2025 年更新比较频繁，已经演进成多模块 SDK 结构（ai4j-agent、ai4j-coding 等）。

这种项目不会被大多数技术博客推荐，因为”老项目接 AI”听起来没那么酷。但你想想看，真实的企业里有多少 JDK 8 的老系统还在跑？能让这些系统具备基础的 AI 能力，实际价值不小。

适合场景：JDK 8 老项目改造、快速接入大模型、不方便升级 Java 版本的存量系统。

七、DataAgent：用自然语言查数据库（NL2SQL）

GitHub：https://github.com/spring-ai-alibaba/dataagent

这个项目是 Spring AI Alibaba 生态里的一个应用级项目，专门做 NL2SQL。

用户输入一句话，比如”查一下上个月华北区域的销售额按产品类型分组”，DataAgent 把这句话转成 SQL，去数据库跑一遍，把结果返回来。

这个需求在企业里真的很常见。业务同学不会写 SQL，每次都让数据开发帮忙写，效率很低。如果 NL2SQL 的准确率能做到可用水平，这块的人力能省不少。

基于 Spring AI Alibaba 构建，技术栈熟悉，接入现有 Spring Boot 项目成本低。

这块需要注意一下：NL2SQL 的准确率很大程度上取决于你的数据库结构是否规范，以及大模型对你的业务语义理解得怎么样。直接上生产需要做一些调优，不是开箱即用就能完美的。

适合场景：BI 系统、数据查询平台、让业务人员用自然语言查数据。

八、DeepResearch：Java 版本的深度调研 Agent

GitHub：https://github.com/spring-ai-alibaba/deepresearch

压轴放这个，是因为我觉得这个方向很有趣，Java 生态里做这种东西的还不多。

DeepResearch 是基于 Spring AI Alibaba Graph 实现的深度调研 Agent。给它一个研究主题，它会自动搜索、筛选资料、整理信息、生成报告，模拟人工做调研的过程。

跟普通的搜索不一样，它的核心是”多步推理”。搜出来的信息不够就再搜，前一步的结果会影响下一步的搜索策略，整个过程有状态。这依赖 Spring AI Alibaba Graph 的有状态工作流来实现。

坦率的讲，这类项目目前还更多是技术探索性质的，距离直接拿去做业务还需要不少工作。但如果你在研究”如何让 Java 应用做自主的多步信息处理”，这是一个完整的可以跑起来的参考实现。

适合场景：需要构建信息收集和分析 Agent、研究多步工作流编排。

怎么选

我稍微整理了一下，按不同情况给个参考：

刚想入门 Java + AI：先跑一遍 LangChain4j 的 Easy RAG 示例，代码量不大，能跑通一个完整的 RAG 流程，后面学什么都有底。

现有 Spring Boot 项目想加 AI 能力：Spring AI 或 Spring AI Alibaba 都行，前者追求官方支持，后者在国内生态（阿里云百炼、通义千问）接入上会更顺。

想做自主 Agent、多步任务自动化：JManus 或 Spring AI Alibaba（Agent Framework），后者更底层，前者有完整的上层应用可以参考。

在维护老的 JDK 8 系统：ai4j，基本上是目前这个版本要求下选项最多的一个了。

需要 NL2SQL 功能：DataAgent，但要做好调优的心理准备。

其实吧，现在 Java 生态在 AI 这块真的没有以前那种”Python 才是正道”的压制感了。LangChain4j 11k+ stars、Spring AI Alibaba 快速迭代，微软和阿里都在往 Java 投资，这个趋势很清楚。

你如果关注这个领域的话，会发现 2025 年之前很多人觉得”Java 做 AI 太麻烦”，但现在写一个 RAG 应用的代码量，Java 和 Python 已经差不多了。

这 8 个项目不是让你全都学，是提供一个地图。找到跟你手头业务最接近的那个，先跑起来，先做出一个能用的东西，比什么都强。