一句话定位：把大语言模型、向量检索、Agent 编排等前沿Neng力，装进熟悉的 Java 开发堆栈，让业务代码不再“孤岛”。

过去两年里LLM像潮水一样冲进各行各业。hen多同学第一反应是跑 Python 示例，却忽略了企业内部Yi有的大量 Java 项目。把所有业务搬到 Python 并不现实——重构成本、运维体系、团队技术栈dou让人望而却步。

幸好，生态里Yi经出现了几套“开箱即用”的解决方案。它们把模型调用、向量数据库、工具插件等复杂环节封装成普通的 Spring Bean 或者注解，让你只写业务逻辑，剩下的交给框架搞定。

Spring AI——遵循 POJO 优先原则，和 Spring Boot 完美融合。

Spring AI Alibaba——阿里云深度集成版，加入 Graph 多智Neng体编排。

LangChain4j——Java 版 LangChain，模块化设计支持 20+ LLM 提供商。

Semantic Kernel——以 Kernel 为中心的插件化平台，Azure 服务深度绑定。

AgentScope‑Java——阿里通义实验室推出的安全沙箱 + 多智Neng体协作框架。

Deeplearning4j——老牌深度学习库，适合离线训练与推理。

Apache Mahout & H2O.ai——传统机器学习/自动化建模的补充方案。

一句话定位：Spring 官方团队打造的 AI 抽象层，把 OpenAI、Claude、Gemini 等模型包装成 Spring Bean，让依赖注入成为唯一入口。

统一模型抽象：ChatModel、EmbeddingModel 等接口统一管理多家云厂商。

MCP支持：一次配置即可在本地或云端切换。

RAG：内置 VectorStore 抽象，可对接 Milvus、Qdrant 等向量库。

Simplified Starter：POM 中加入 spring-ai-starter，即可完成自动装配。

@Configuration
public class AiConfig {
    @Bean
    public ChatClient chatClient {
        return builder
                .defaultSystem
                .defaultOptions
                        .temperature
                        .maxTokens
                        .build)
                .build;
    }
}

随后在控制器里直接注入 ChatClient，就Neng写出一行代码完成对话：

@RestController
@RequestMapping
public class AiController {
    private final ChatClient chatClient;
    public AiController {
        this.chatClient = chatClient;
    }
    @GetMapping
    public String chat {
        return chatClient.prompt
                         .user
                         .call
                         .content;
    }
}

一句话定位：A​libaba 开源项目，将阿里云 AI Neng力嵌入 Spring 生态，并提供面向企业的 Graph 工作流编排Neng力。

// 定义一个对话接口，无需实现类
interface Assistant {
    @SystemMessage
    String chat;
    @MemoryId
    String chatWithMemory(@MemoryId String uid,
                          @UserMessage String msg);
}
// 创建实例并直接调用
Assistant assistant = AiServices.builder
        .chatModel          // 注入具体模型实现
        .chatMemory        // 持久化记忆组件
        .build;
String answer = assistant.chat;
System.out.println;

相较于传统链式调用，这种基于注解的声明式风格让 Java 开发者感到亲切：只要定义接口，就Neng获得完整对话功Neng；内部实现全部交给框架处理。

// 构建一个三节点状态图：分析 → 搜索 → 确认
StateGraph graph = new StateGraph<>
        .addNode)
        .addNode)
        .addNode)
        .addConditionalEdge
        .build;

MCP Gateway geng进一步，实现「零代码」将Yi有 Nacos 注册信息转换为 MCP 协议，让旧系统无感升级为 AI Neng力平台。

一句话定位：功NengZui全、社区活跃度Zui高的 Java 大语言模型工具包，以模块化方式提供 LLM 调用、向量检索和 Agent 编排等Neng力。

L1 API：LlmProvider / EmbeddingProvider / VectorStore 接口，对接各种供应商；

L2 API：@AiService 注解 + Builder 链式配置，实现业务代码与底层模型彻底解耦。

@AiService
public interface CustomerSupport {
    @SystemMessage
    String ask;
}
// 在 Spring Boot 中直接注入使用
@Service
class SupportService {
   private final CustomerSupport support;
   public SupportService {
       this.support = support;
   }
   public String reply {
       return support.ask;
   }
}

The framework currently supports OpenAI、Anthropic、Azure OpenAI、Google Gemini 等二十余家模型提供商，同时兼容 Milvus、Pinecone 等向量库，是目前 Java 圈子里「Zui全」的一站式解决方案。

一句话定位：M​icrosoft 官方出品，可在 Azure 环境中实现「插件+记忆+工具」统一管理的 AI 应用平台。

Kernal 对象：Pivotal orchestrator，用来挂载 LLM 服务、插件函数以及向量存储；

@DefineSKFunction 注解：将普通 Java 方法注册为可被 LLM 调用的工具；

Memory Storage ： 内置对 Azure Cognitive Search 与 Cosmos DB 的适配，实现持久记忆。

// 定义一个简单加法插件
public class MathPlugin implements SKPlugin {
   @DefineSKFunction
   public int add {
       return a + b;
   }
}
// 构造 Kernel 并执行 Prompt
Kernel kernel = Kernel.builder
        .withAIService
        .withPlugin)
        .withMemoryStorage
        .build;
KernelFunction prompt = KernelFunction.fromPrompt(
      "请先计算 12 + 34，然后把结果告诉我"
).build;
FunctionResult result = prompt.invokeAsync.block;
System.out.println);

M​icrosoft 将该项目放在 Azure SDK 仓库中，并提供完整 CI/CD 示例，使得企业在 Azure 上“一键部署”成为可Neng。

一句话定位：阿里通义实验室基于 Python 版 AgentScope 打造的 Java 实现，专为高安全性场景设计，内置沙箱机制、防护墙以及观测日志。

ReAct 范式原生支持 ： 推理与行动自然交叉；

安全沙箱 ： 所有 LLM 调用均在受控容器中执行，有效防止 Prompt 注入；

多代理协作 ： 支持 A‑A 工作流，可视化状态图；

Observability ： 集成 OpenTelemetry，实现链路追踪和指标监控。

代码速览 —— 声明一个退款 Agent

@AgentComponent 
public class RefundAgent { 
   @ReasonStep 
   public Plan reason{ 
       // LLM 自动生成任务计划：检查订单 → 风险评估 → 发起退款 
   } 
   @ActStep 
   public ActionResult act{ 
       // 调用内部工具完成实际退款操作 
   } 
}