April 2, 2025
本文作者:夏冬,Spring AI Alibaba Contributor。 1、模型上下文协议(Model Context Protocol)入门 2024 年 11 月,Anthropic 公司搞了个挺有意思的新玩意 Model Context Protocol(模型上下文协议)简称为 MCP 协议。简单来说,它就是给 AI 和各类工具数据之间搭了个标准化的"桥梁",让开发者不用再为对接问题头疼了。大模型应用可以使用别人分享的 MCP 服务来完成各种各样的工作内容,你可以从这些地方获取 MCP 服务: awesomemcpservers mcp.so MCP 协议在实...
April 1, 2025
MCP官方文档:https://modelcontextprotocol.io/introduction java版的MCP源码:https://github.com/modelcontextprotocol/javasdk 本版源码解析,取自,等正式发版后会再度更新 理论部分 MCP调用链路(核心) 以clientwebflux、serverwebflux为例 初始化连接链路... 客户端咨询问题,调用服务端工具链路 McpClient(客户端) 用于创建MCP客户端的工厂类,提供了同步、异步客户端的方法,并支持多种配置,提供如下核心功能 配置选项...
April 1, 2025
Tool工具允许模型与一组API或工具进行交互,增强模型功能,主要用于: 信息检索:从外部数据源检索信息,如数据库、Web服务、文件系统或Web搜索引擎等 采取行动:可用于在软件系统中执行特定操作,如发送电子邮件、在数据库中创建新记录、触发工作流等 注: 本版源码解析取自仓库最新代码(暂未发版),目前最新的1.0.0.M6有部分类和方法将过期,故不在此讨论范畴中 本文实践代码可见spingraialibabaexamples项目下的 理论部分 1. 在聊天请求中包含工具的定义,包括工具名称、描述、输入模式 2. 当AI模型决定调用一个工具时,会发送一个响应,包含工具名称...
March 22, 2025
此次官方发布的 实现,包含完整的多智能体任务规划、思考与执行流程,可以让开发者体验 Java 版本的多智能体效果。它能够根据用户的问题进行分析,操作浏览器,执行代码等来完成复杂任务等。 项目源码及体验地址: 效果展示 话不多说,先看运行效果,以下是我们通过几个实际问答记录展示的 Spring AI Alibaba OpenManus 实际使用效果。 1. 打开百度浏览器,在搜索框输入:阿里巴巴最最近一周股价,根据搜索到的信息绘制最近一周的股价趋势图并保存到本地目录。 2. 我计划在接下来的五一劳动节假期到韩国旅行,行程是从杭州出发到韩国首尔,总预算为10000元。我想体验韩...
March 21, 2025
使用 Spring AI Alibaba 构建大模型联网搜索应用 Spring AI 实现了模块化 RAG 架构,架构的灵感来自于论文“”中详述的模块化概念。 本文介绍如何使用 Spring AI Alibaba 构建大模型联网搜索应用结合模块化 RAG(Module RAG)和信息检索服务(IQS)赋能大模型。 Spring AI 模块化 RAG 体系 总体上分为以下几个步骤: PreRetrieval 增强和转换用户输入,使其更有效地执行检索任务,解决格式不正确的查询、query 语义不清晰、或不受支持的语言等。 1. QueryAugmenter 查询增强...
March 20, 2025
Java 也能快速搭建 AI 应用?一文带你玩转 Spring AI 可观测性 概述 随着 LLM(大语言模型)基础技术的不断成熟和应用领域的广泛挖掘,越来越多的企业和开发者开始将 LLM 技术集成到自己的互联网服务架构中,市场上涌现出了一大批基于 LLM 技术搭建的爆款应用。Python 语言受益于其丰富的框架和社区生态,成为了众多开发者搭建这些 AI 应用时的第一选择。但随着 AI 应用架构日益成熟,吞吐量、访问性能、可扩展性、微服务生态等重要指标也成为众多开发者和运维人员关注的焦点。恰好,经历了互联网时代考验的 Java 语言在这些方面已经有了很成熟的解决方案和生态。那么,使用...
March 19, 2025
RAG 应用架构概述 核心组件 + Spring AI:Spring 生态的 Java AI 开发框架,提供统一 API 接入大模型、向量数据库等 AI 基础设施。 + Ollama:本地大模型运行引擎(类似于 Docker),支持快速部署开源模型。 + Spring AI Alibaba:对 Spring AI 的增强,集成 DashScope 模型平台。 + Elasticsearch:向量数据库,存储文本向量化数据,支撑语义检索。 模型选型 1. Embedding 模型:nomicembedtext:latest,用于将文本数据向量化。 2. Ollama Chat 模...
March 16, 2025
Spring AI Alibaba RAG Example 示例项目源码地址:https://github.com/springaialibaba/springaialibabaexamples/tree/main/springaialibabaragexample RAG 应用架构概述 1.1 核心组件 Spring AI:Spring 生态的 Java AI 开发框架,提供统一 API 接入大模型、向量数据库等 AI 基础设施。 Ollama:本地大模型运行引擎,大模型时代的 Docker,支持快速体验部署大模型。 Spring AI Alibaba:Spring AI ...
February 12, 2025
在 AI 智能体(AI Agent)开发的过程中,RAG(RetrievalAugmented Generation) 和 Tool Calling 已经成为两种至关重要的模式。RAG 通过结合检索技术和生成模型的强大能力,使智能体能够实时从外部数据源获取信息,并在生成过程中增强其知识深度和推理能力。通过这种方式,智能体不仅能依赖于模型的预训练知识,还能动态访问和处理更加广泛、详细的外部数据,从而显著提升其在复杂任务中的表现。 与此同时,Tool Calling 模式为智能体提供了调用外部工具的能力,极大地扩展了其应用范围。智能体可以通过调用外部工具(如天气预报、地图导航、社交媒体平台等)...