先从一个具体的场景讲起。你在一家公司做后端某天老板提了个要求给客服系统加个 AI用户问“我的订单到哪了”系统能自己去查订单、查物流然后回答。需求听着不复杂。你打开搜索引擎发现 Java 侧已经有六个名字在等着你Spring AI、LangChain4j、Solon AI、Spring AI Alibaba、AgentScope Java、Embabel。然后你会看到大量这样的文章把它们放进一张表比 star 数、比模型覆盖、比 MCP 支不支持、比社区活跃度最后打个总分告诉你选哪个。这条路走不通。表里这些名字不在同一层放在一起比参数等于拿建材和电梯比承重。这篇文章换个讲法先把六个框架逐个看一遍讲清每个解决什么问题、跟旁边那个差在哪最后给你一条能照着走的选型路径。中间有六段能直接跑的最小代码以及一条最容易被漏掉的结论。一、先建立全景六个框架三层台阶回到客服那个场景。别急着选框架先把这个需求按“要做到哪一步”拆开用户问一句、AI 答一句中间查一下订单接口 → 需要连上模型、能调工具一个退款请求要走完查订单、判规则、生成回复、必要时升级人工 → 需要多步骤能编排、能解释记住客户历史、多租户隔离、会话中断能恢复、批量跑一整晚 → 需要长期稳定运行三步对应三层台阶一层比一层高也一层比一层重。每一层都是被下面那层撑不住的场景逼出来的。这就是六个框架的分布框架层一句话定位Java 版本依赖Spring AI模型接入Spring 生态的官方 AI 抽象层17强依赖 Spring BootLangChain4j模型接入JVM 上的 AI 工具箱模型与向量库最全17框架中立Solon AI模型接入全版本、框架无关8-26可嵌入任意框架Spring AI Alibaba编排与规划企业级多智能体与工作流17基于 Spring AIEmbabel编排与规划确定性规划可解释可审计17基于 Spring AIAgentScope Java运行时底座企业级分布式 Agent17框架中立先记住这张表的结构接下来三节会把这六个框架一个个填满。在往下走之前有一个词得先说清楚因为后面会反复出现Harness。Agent Model Harness这个式子流传很广它的重点在后半段同样的模型配上不同的 Harness能兑现出来的生产力差别很大。Harness 指的不是某个能下载的产品而是模型之外那一整套东西——循环怎么转、工具怎么调、上下文怎么管、出错了怎么办。上面这张表里后两层加起来就是 Harness。它没法整包采购只能一层层搭。还有一条容易被忽略框架开源不等于模型开源。大厂把框架免费送出来模型和云收钱这个逻辑是直白的。所以第一个该问的问题是“发动机归谁”。二、第一层让客服能答上来这一层解决的是最基础的问题怎么把模型接进 Java 系统让它能调用你写的接口。1. Spring AISpring 官方出品2.0.0 GA 于 2026 年 6 月发布基于 Spring Boot 4.1 和 Spring Framework 7.0。它最重要的一个变化在 2.0把ChatClient和ChatModel的边界分清楚了。1.x 的时候两者混在一起开发时常见的是直接注入ChatModel工具调用、重试、内存管理全往里塞。2.0 明确为ChatClient是面向业务的高层 API内置 Advisor 链日常开发用它ChatModel是底层模型抽象直接对接各厂商 SDK只有写框架的人才需要碰。代码语言Java自动换行AI代码解释ChatClient client ChatClient.builder(chatModel) .defaultSystem(你是客服助手只回答与订单相关的问题) .build(); String reply client.prompt() .user(订单 20240921001 到哪了) .tools(new OrderTools()) // 查订单、查物流 .call() .content();什么时候用项目是 Spring Boot团队熟悉 Spring 那套要把 AI 快速接进现有系统。自动配置、依赖注入、可观测性全是现成的。代价强依赖 Spring Boot 生态非 Spring 项目用起来不顺手。另外它的版本门槛在网上有两种说法第五节专门说这件事。2. LangChain4j2023 年初开始发展是目前 Java 生态里模型支持和向量存储支持最丰富的框架截至 2026 年 9 月最新版本 1.19.0MCP 协议也进入了稳定期。它和 Spring AI 的核心区别一句话概括Spring AI 追求集成效率LangChain4j 追求场景能力。前者胜在 Spring 生态原生集成后者胜在功能丰富度和灵活度30 多个模型开箱即用向量库覆盖最广而且框架中立Quarkus、Micronaut、纯 Java 都能用。代码语言Java自动换行AI代码解释interface Assistant { SystemMessage(你是客服助手只回答与订单相关的问题) String chat(UserMessage String question); } Assistant assistant AiServices.builder(Assistant.class) .chatModel(model) .tools(new OrderTools()) .build(); String reply assistant.chat(订单 20240921001 到哪了);什么时候用需要最丰富的模型和向量库支持或者你的项目不是纯 Spring。代价写法不如 Spring AI 简洁学习和使用成本更高版本迭代快API 稳定性不如 Spring AI。3. Solon AISolon 项目的核心子项目定位是“全场景 Java AI 开发框架”。两个特点在 Java AI 框架里都相当罕见第一兼容 Java 8 到 Java 26。如果你的存量系统还跑在 Java 8 上前面两个都用不了。第二可以嵌入任意框架。它不绑定 Solon能直接嵌进 Spring Boot、Vert.x、Quarkus、JFinal。在 Agent 体系上它提供了三级递进SimpleAgent、ReActAgent、TeamAgent。代码语言Java自动换行AI代码解释ChatModel chatModel ChatModel.of(http://127.0.0.1:11434/api/chat) .provider(ollama) .model(qwen2.5:1.5b) .build(); AssistantMessage result chatModel.prompt(订单 20240921001 到哪了) .options(op - op.toolAdd(new OrderTools())) .call() .getMessage();什么时候用项目还在 Java 8 或 11 上或者你需要一层跟框架无关的 AI 能力。代价生态和社区规模不如前两个文档以中文为主。这一层怎么挑问自己两个问题就够Java 版本是多少。还在 8 或 11 上Solon AI 是唯一的选择。项目是不是 Spring。是Spring AI 最顺滑不是或者你要用很多种模型和向量库LangChain4j 更灵活。三、第二层让一个请求分几步走完客服场景在这里升级了。用户说的不再是“我的订单到哪了”而是“我要退款”。这句话要拆成好几步查订单详情、判断是否符合退款规则、查有没有历史退款记录、生成回复判断不了还得转人工。每一步都可能用到不同的工具前面一步的结果决定后面一步走哪条路。这时候光有“能调工具”不够了你需要的是编排让多步骤的流程可控、可解释、可恢复。1. Spring AI Alibaba由 Spring 开源社区和 Alibaba 开源社区共同维护2024 年 9 月开源目前 GitHub Star 数已超过 10,000。它在 Spring AI 的基础上做了向上抽象。用一句话说清分工Spring AI 解决“怎么调用模型”Spring AI Alibaba 解决“怎么让多个 Agent 协同完成复杂业务流程”。架构分三层Agent Framework以 ReactAgent 为核心、Graph工作流与多代理协调的运行时、Augmented LLMSpring AI 的原子抽象。代码语言Java自动换行AI代码解释ReactAgent agent ReactAgent.builder() .name(refund_agent) .model(chatModel) .instruction(你是退款处理助手按规则判断判断不了就转人工) .tools(new OrderTools(), new RefundRuleTools()) .build(); agent.call(订单 20240921001 我要退款);1.1.2.0 有两个升级值得关注Agent Skills 先只注入技能列表模型需要时才加载完整内容省 token多智能体并行执行可以一次选多个子智能体跑适合并行查询后汇总。它同时深度适配通义千问、百炼、Higress AI 网关、Nacos。什么时候用项目是 Spring Boot要构建企业级多智能体系统或工作流编排比如智能客服、审批流、数据管道。代价相对较新生态还在建设主要面向 Spring 生态。2. EmbabelSpring 之父 Rod Johnson 打造的 JVM 原生智能体框架2026 年 8 月发布 1.0.0 GA。它做的事可以概括成一句话把“规划”从 LLM 手里抢回来。大部分框架的规划步骤是让 LLM 决定“下一步做什么”而 LLM 有幻觉、不确定。Embabel 引入 GOAP目标导向行动规划算法一种传统上用在游戏 AI 里的规划算法给智能体一组可用的 Action每个带前置条件与效果规划器搜索出满足目标的动作序列并且能说明为什么选这条路径。规划过程不依赖 LLM好处是可解释、可审计代价是表达能力受 Action 定义的约束。