Spring AI 是一个为开发 AI 应用程序提供 Spring 友好的 API 和抽象层的项目。它将 Spring 生态系统的设计原则(如可移植性和模块化设计)应用到 AI 领域,并促进使用 POJO 作为 AI 应用程序的构建块。
核心理念 💡
❝
在其核心,Spring AI 解决了 AI 集成的根本挑战:将您的企业**「数据」和「API」与「AI 模型」**连接起来。
❞
技术架构层次 🏛️
图1:Spring AI 技术架构层次图
快速开始(以Ollma为例) 🚀
1. 添加依赖
<dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-starter-model-ollama</artifactId> <version>1.0.0-SNAPSHOT</version></dependency>
2. 使用 OllamaChatModel
package cn.jishuba;import org.springframework.ai.chat.client.ChatClient;import org.springframework.ai.chat.model.ChatModel;import org.springframework.ai.ollama.OllamaChatModel;import org.springframework.ai.ollama.api.OllamaApi;import org.springframework.ai.ollama.api.OllamaOptions;public class App{ public static void main( String[] args ) { // 指定Ollama API的地址 OllamaApi ollamaApi = OllamaApi.builder() .baseUrl("http://localhost:11434") .build(); // 创建Ollama聊天模型 ChatModel model = OllamaChatModel.builder() .defaultOptions(OllamaOptions.builder() .model("qwen2.5:latest") .build()) .ollamaApi(ollamaApi) .build(); // 创建聊天客户端 ChatClient chatClient = ChatClient.builder(model) .build(); String response = chatClient.prompt() .user("你好,讲个关于Java的笑话") .call() .content(); System.out.println(response); }}
整体架构 🏗️
图2:Spring AI 核心架构与生态系统
主要功能模块 🎯
1. AI 模型支持 🤖
支持的模型类型
- 「聊天完成」 (Chat Completion) 💬「嵌入」 (Embedding) 🔗「文本转图像」 (Text to Image) 🎨「音频转录」 (Audio Transcription) 🎵「文本转语音」 (Text to Speech) 🔊「内容审核」 (Moderation) 🛡️
支持的提供商
提供商 | 模块名称 | 支持功能 |
---|---|---|
OpenAI | spring-ai-openai | 聊天、嵌入、图像、音频 |
Anthropic | spring-ai-anthropic | 聊天、嵌入 |
Azure OpenAI | spring-ai-azure-openai | 聊天、嵌入、图像 |
AWS Bedrock | spring-ai-bedrock | 聊天、嵌入 |
Google Gemini | spring-ai-vertex-ai-gemini | 聊天、嵌入 |
Ollama | spring-ai-ollama | 本地部署聊天模型 |
DeepSeek | spring-ai-deepseek | 聊天、嵌入 |
Minimax | spring-ai-minimax | 聊天 |
智谱AI | spring-ai-zhipuai | 聊天、嵌入 |
2. 向量数据库支持 🗄️
支持的向量数据库
数据库 | 模块名称 | 特性 |
---|---|---|
PostgreSQL/PGVector | spring-ai-pgvector-store | 🐘 开源、SQL兼容 |
Chroma | spring-ai-chroma-store | 🎨 轻量级、易用 |
Pinecone | spring-ai-pinecone-store | 🌲 云原生、高性能 |
Redis | spring-ai-redis-store | 🔴 内存存储、高速 |
Elasticsearch | spring-ai-elasticsearch-store | 🔍 全文搜索 |
MongoDB Atlas | spring-ai-mongodb-atlas-store | 🍃 文档数据库 |
Neo4j | spring-ai-neo4j-store | 🔗 图数据库 |
Apache Cassandra | spring-ai-cassandra-store | 🔧 分布式 |
Weaviate | spring-ai-weaviate-store | 🕸️ 向量搜索 |
3. 核心功能组件 ⚙️
ChatClient API 💬
- 流式 API,类似于 WebClient 和 RestClient支持同步和异步调用内置对话记忆管理支持 RAG (检索增强生成)
Advisors API 🎯
- 封装常见的生成式 AI 模式转换发送到/从语言模型的数据提供跨不同模型的可移植性
工具/函数调用 🛠️
- 允许模型请求执行客户端工具和函数访问实时信息扩展 AI 应用的功能边界
观测性 📊
- 提供 AI 相关操作的洞察监控模型性能和使用情况集成 Spring Boot Actuator
4. 数据处理 📈
ETL 框架
文档注入 ETL 框架
数据工程支持
文档读取器:
jsoup-reader
- HTML 解析markdown-reader
- Markdown 文档pdf-reader
- PDF 文档tika-reader
- 多格式文档结构化输出
- AI 模型输出到 POJO 的映射类型安全的响应处理
模块关系图 🔄
图3:Spring AI 模块关系与依赖图
主要特性 ✨
🔧 可移植性
- 统一的 API 抽象,轻松切换不同的 AI 提供商标准化的配置方式
🎯 Spring 集成
- 完整的 Spring Boot 自动配置依赖注入支持Spring 生态系统兼容
📈 可扩展性
- 模块化设计,按需选择组件插件式架构,易于扩展
🛡️ 企业级
- 完整的观测性支持错误处理和重试机制生产就绪的特性
🌐 多语言支持
- 不仅限于 Python 开发者Java 生态系统的完整支持
总结 🎉
Spring AI 为 Java 开发者提供了一个强大、灵活、易于使用的 AI 应用开发框架。通过其模块化设计和 Spring 生态系统的深度集成,开发者可以快速构建生产级的 AI 应用程序,同时保持代码的可维护性和可扩展性。
无论您是要构建聊天机器人、知识问答系统、还是复杂的 AI 工作流,Spring AI 都为您提供了必要的工具和抽象层,让您专注于业务逻辑的实现,而不是底层的 AI 模型集成细节。