Spring AI 快速接入 DeepSeek 大模型

Spring AI 快速接入 DeepSeek 大模型

@[toc]

Spring AI 框架概述

在经历了八个里程碑式的版本之后（M1~M8），Spring AI 1.0 正式版本，终于在 2025 年 5 月 20 日正式发布了，这是另一个新高度的里程碑式的版本，标志着 Spring 生态系统正式全面拥抱人工智能技术，并且意味着 Spring AI 将会给企业带来稳定 API 支持。

Spring AI 是 Spring 官方推出的一个人工智能集成框架，旨在简化 AI 功能在 Spring 应用中的整合。它提供了一套标准化的 API 和工具，让开发者能够轻松接入多种主流 AI 服务（如 OpenAI、Azure AI、Hugging Face 等），同时保持 Spring 生态的简洁性和灵活性。

核心特性

1. 统一 API 设计

通过抽象层屏蔽不同 AI 提供商（如 OpenAI、Gemini、Ollama 等）的接口差异，开发者只需使用 Spring AI 的通用接口（如 ChatModel），即可切换底层 AI 服务。

2. 开箱即用的功能支持
3. 支持对话模型（Chat）类的大模型：与 ChatGPT 类似的交互。
4. 支持嵌入模型（Embedding）类的大模型：嵌入模型是将文本、图像或其他数据转换为数值向量（即嵌入向量）的技术。
5. 支持图像生成（Image Generation）类的大模型：图像生成是指AI根据文本描述或其他输入创建新图像的能力。
6. 支持函数调用（Function Calling）：函数调用功能使AI模型能够与外部API和服务交互。也就是说，你写一个函数，AI 也能调用你写的函数。
7. 与 Spring 生态无缝集成
8. 支持 Spring Boot 自动配置、依赖注入、Actuator 监控等，与 Spring Security、Spring Data 等组件协同工作。
9. Prompt 工程支持
10. 提供 PromptTemplate 等工具，方便动态生成提示词（Prompts），支持上下文管理。
11. 模块化设计
12. 开发者可以根据项目需求选择特定的AI服务模块
13. 例如只需OpenAI功能就只引入spring-ai-openai
14. 如需Google Vertex AI则引入spring-ai-vertexai
15. 每个AI供应商/服务有独立的Spring Starter模块

适用场景

• 快速构建 AI 驱动的应用（如智能客服、内容生成工具）。
• 需要灵活切换 AI 后端（如从本地模型切换到云服务）。
• 结合 Spring 生态实现企业级 AI 功能（如权限控制、数据持久化）。

官网与资源

• 官方仓库：github.com/spring-proj…
• 文档：spring.io/projects/sp…

AI 提供商与模型类型

在SpringAI中，模型类型和AI提供商是两个不同维度的概念，但它们又相互关联。让我用更清晰的方式帮你区分和理解：

模型类型（Model Type）

指的是AI模型的功能类别，即它能完成什么任务。
特点：与具体厂商无关，是通用的能力分类。

常见模型类型：

AI提供商（Provider）

提供具体AI模型服务的公司或平台。
特点： 同一提供商可能支持多种模型类型

常见提供商：

两者的关系

• 一个提供商支持多种模型类型
  例如：OpenAI同时提供Chat模型（GPT-4）、Embedding模型（text-embedding-3）、Image模型（DALL-E）。
• 一种模型类型可由多个提供商实现
  例如：Chat模型既可以用OpenAI的GPT-4，也可以用Google的PaLM 2。

Spring AI 框架支持哪些 AI 提供商的哪些模型

Spring AI 框架支持主流的 AI 提供商的主流模型，并且会随着 Spring AI 版本的升级而变化。

以下是截至 2024年6月，Spring AI 框架官方及社区支持的 AI 提供商及其对应的 模型类型的详细列表，包含国内和国外主流厂商。

Spring AI 接入 DeepSeek

DeepSeek 的 API 设计兼容 OpenAI：DeepSeek 的 API 接口规范（如请求/响应格式、鉴权方式）与 OpenAI 保持一致，因此可以直接使用 OpenAI 的客户端库调用 DeepSeek。

引入依赖

<dependencies>
    <!-- Spring MVC -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
    </dependency>
    <!--
        DeepSeek 的 API 设计兼容 OpenAI：
        DeepSeek 的 API 接口规范（如请求/响应格式、鉴权方式）与 OpenAI 保持一致，
        因此可以直接使用 OpenAI 的客户端库调用 DeepSeek。
    -->
    <dependency>
        <groupId>org.springframework.ai</groupId>
        <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
        <version>1.0.0-M6</version>
    </dependency>
    <!-- Lombok -->
    <dependency>
        <groupId>org.projectlombok</groupId>
        <artifactId>lombok</artifactId>
        <optional>true</optional>
    </dependency>
</dependencies>
<repositories>
    <!--指向 Spring 官方提供的快照仓库，为了尝试 Spring 的最新功能-->
    <repository>
        <id>spring-snapshots</id>
        <name>Spring Snapshots</name>
        <url>https://repo.sp*r*i*ng.io/snapshot</url>
        <snapshots>
            <enabled>true</enabled>
        </snapshots>
    </repository>
</repositories>

编写配置文件

# Spring AI OpenAI/DeepSeek 配置
spring:
  ai:
    openai:
      api-key: sk-b768607df6cd4xxx0f5aa38 # 设置 DeepSeek API 的访问密钥，永远不要将密钥提交到代码仓库，建议通过环境变量注入。搞不好要花钱的。
      base-url: https://api.d*eep**seek.com           # 指定 DeepSeek API 的基础地址，格式与OpenAI相同。
      chat:
        options:
          model: deepseek-chat                     # 选择要调用的 DeepSeek 模型名称，必须与 DeepSeek 支持的模型列表匹配（如 deepseek-chat、deepseek-coder 等），不同模型可能有不同的计费标准和能力。
          temperature: 1.3                         # temperature 值越高，AI 回答越随机和创意；值越低，回答越确定和保守。1.3 属于高值，适合需要发散性输出的场景，但可能牺牲准确性。

编写 service

import lombok.RequiredArgsConstructor;
import org.springframework.ai.chat.model.ChatModel;
import org.springframework.ai.chat.prompt.Prompt;
import org.springframework.ai.chat.prompt.SystemPromptTemplate;
import org.springframework.stereotype.Service;

import java.util.Map;

@RequiredArgsConstructor
@Service
public class AiService {

    private final ChatModel chatModel;

    // 简单的直接调用
    public String generate(String message) {
        return chatModel.call(message);
    }

    // 使用系统提示模板
    public String generateWithSystemPrompt(String userMessage) {

        SystemPromptTemplate systemPromptTemplate = new SystemPromptTemplate("""
                你是一个资深{domain}专家，回答需满足以下要求：
                1. 语言风格：{tone}
                2. 回答长度：{length}
                3. 用户问题：{userMessage}
                """);

        Prompt prompt = new Prompt(
                systemPromptTemplate.createMessage(Map.of(
                        "domain", "科技",
                        "tone", "幽默",
                        "length", "不超过100字",
                        "userMessage", userMessage
                ))
        );

        return chatModel.call(prompt).getResult().getOutput().getText();
    }
}

编写 controller

import com.example.demo.service.AiService;
import lombok.RequiredArgsConstructor;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

@RestController
@RequestMapping("/api/ai")
@RequiredArgsConstructor
public class AiController {

    private final AiService aiService;

    @GetMapping("/chat")
    public String chat(@RequestParam String message) {
        return aiService.generate(message);
    }

    @GetMapping("/chat-with-prompt")
    public String chatWithPrompt(@RequestParam String message) {
        return aiService.generateWithSystemPrompt(message);
    }
}

启动服务，在浏览器地址栏上访问：

到此，Spring AI 接入 DeepSeek 就完成了。

最后：