一、概述
在 AI 应用开发中,工具调用 Tool Calling 是增强大模型能力的核心技术。通过让模型与外部 API 或工具交互,可实现 实时信息检索(如天气查询、新闻获取)、系统操作(如创建任务、发送邮件)等功能。
Spring AI 作为企业级 AI 开发框架,在 1.0.0.M6 版本中进行了重要升级:废弃 Function Calling 引入 Tool Calling 以更贴合行业术语;本文结合 Spring AI 与大模型,演示如何通过 Tool Calling 实现系统 API 调用,同时处理多轮对话中的会话记忆。
关于 Spring AI 与 DeepSeek 的集成,以及 API-KEY 的申请等内容,可参考文章《Spring AI与DeepSeek实战一:快速打造智能对话应用》
二、函数调用原理
大模型仅负责 决定是否调用工具 和 提供参数,实际执行逻辑由客户端(Spring 应用)实现,确保工具调用的可控性与安全性。
2.1. 工具元数据注入
在发起Chat Request时,将工具描述(name/description)、参数结构(input schema)等元数据封装至请求体,建立大模型的工具调用能力基线。
2.2. 模型决策响应
大模型根据上下文推理生成工具调用指令(tool_calls字段),返回包含选定工具名称及结构化参数的中间响应。
2.3. 服务端路由执行
Spring AI模块解析工具调用指令,通过服务发现机制定位目标工具实例,注入参数并触发同步/异步执行。
2.4. 执行结果标准化
工具返回原始执行结果后,系统进行数据类型校验、异常捕获和JSON序列化处理,生成模型可解析的标准化数据结构。
2.5. 上下文增强推理
将标准化结果作为新增上下文(tool_outputs)回传大模型,触发基于增强上下文的二次推理流程。
2.6. 终端响应生成
模型综合初始请求与工具执行结果,生成最终自然语言响应,完成工具增强的对话闭环。
三、核心代码
3.1. 定义工具
创建类 TestTools 并用 @Tool 注解定义 tool 的描述- public static class TestTools {
- @Tool(description = "获取今天日期")
- String getCurrentDateTime() {
- System.out.println("======getCurrentDateTime");
- return LocalDate.now().format(DateTimeFormatter.ofPattern("yyyy年MM月dd日"));
- }
- @Tool(description = "获取当前温度")
- String getCurrentTemperature(MyToolReques toolReques) {
- System.out.println("======getCurrentTemperature: " + toolReques.localName + "__" + toolReques.date);
- return toolReques.date + toolReques.localName + "温度为20摄氏度";
- }
- public record MyToolReques(String localName, String date) {}
- }
复制代码 这里定义了两个方法,并通过注解的 description 参数告诉大模型方法的用途。
record 类型是 Java17 的新特性,可用于替代传统的 POJO 类。
3.2. 创建对话接口
- private ChatMemory chatMemory = new InMemoryChatMemory();
- private MessageChatMemoryAdvisor messageChatMemoryAdvisor = new MessageChatMemoryAdvisor(chatMemory);
- @GetMapping(value = "/chat")
- public String chat(@RequestParam String input, String sessionId, HttpServletResponse response) {
- response.setCharacterEncoding("UTF-8");
- return chatClient.prompt().user(input)
- .tools(new TestTools())
- .advisors(messageChatMemoryAdvisor)
- .advisors(spec -> spec
- .param(MessageChatMemoryAdvisor.CHAT_MEMORY_CONVERSATION_ID_KEY, sessionId))
- .call()
- .content();
- }
复制代码
- tools 给大模型注册可以调用的方法。
- MessageChatMemoryAdvisor 实现聊天记忆,InMemoryChatMemory 为 SpringAI 自带的实现(基于内存)。
- 可以使用 CHAT_MEMORY_CONVERSATION_ID_KEY 参数指定对话ID,不同的会话ID用于隔离记忆。
3.3. 测试
通过后台打印信息可以看到大模型会自动识别,先调用 getCurrentDate 方法获取今天日期,再调用 getCurrentTemperature 方法获取天气。
======getCurrentDate
======getCurrentTemperature: 广州__2025年04月13日
加一个聊天框,测试多轮对话效果:
第二次会话直接输入 广州 大模型就知道我要问什么了,说明聊天记忆功能已生效。
四、总结
本文以问天气为场景,通过 Tool Calling 实现系统 API 调用,同时实现多轮对话中的会话记忆。需要注意的是 InMemoryChatMemory 只能作为测试使用,在企业应用中需要使用其他实现方式,把聊天记录存储在 Redis 或者 数据库中,并且需要考虑消息的保存时间、容量、如何清除等问题。
五、完整代码
https://gitee.com/zlt2000/zlt-spring-ai-app
https://github.com/zlt2000/zlt-spring-ai-app
来源:程序园用户自行投稿发布,如果侵权,请联系站长删除
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作! |