20 posts tagged with "Spring AI Alibaba"

此次官方发布的 Spring AI Alibaba OpenManus 实现，包含完整的多智能体任务规划、思考与执行流程，可以让开发者体验 Java 版本的多智能体效果。它能够根据用户的问题进行分析，操作浏览器，执行代码等来完成复杂任务等。

Spring AI 实现了模块化 RAG 架构，架构的灵感来自于论文“模块化 RAG：将 RAG 系统转变为类似乐高的可重构框架”中详述的模块化概念。

本文介绍如何使用 Spring AI Alibaba 构建大模型联网搜索应用结合模块化 RAG（Module RAG）和信息检索服务（IQS）赋能大模型。

概述​

随着 LLM（大语言模型）基础技术的不断成熟和应用领域的广泛挖掘，越来越多的企业和开发者开始将 LLM 技术集成到自己的互联网服务架构中，市场上涌现出了一大批基于 LLM 技术搭建的爆款应用。Python 语言受益于其丰富的框架和社区生态，成为了众多开发者搭建这些 AI 应用时的第一选择。但随着 AI 应用架构日益成熟，吞吐量、访问性能、可扩展性、微服务生态等重要指标也成为众多开发者和运维人员关注的焦点。恰好，经历了互联网时代考验的 Java 语言在这些方面已经有了很成熟的解决方案和生态。那么，使用 Java 语言能否也像 Python 一样快速搭建出来 AI 应用呢？

RAG 应用架构概述​

核心组件​

• Spring AI：Spring 生态的 Java AI 开发框架，提供统一 API 接入大模型、向量数据库等 AI 基础设施。
• Ollama：本地大模型运行引擎（类似于 Docker），支持快速部署开源模型。
• Spring AI Alibaba：对 Spring AI 的增强，集成 DashScope 模型平台。
• Elasticsearch：向量数据库，存储文本向量化数据，支撑语义检索。

Spring AI Alibaba RAG Example 示例项目源码地址：https://github.com/springaialibaba/spring-ai-alibaba-examples/tree/main/spring-ai-alibaba-rag-example

在 AI 智能体（AI Agent）开发的过程中，RAG（Retrieval-Augmented Generation） 和 Tool Calling 已经成为两种至关重要的模式。RAG 通过结合检索技术和生成模型的强大能力，使智能体能够实时从外部数据源获取信息，并在生成过程中增强其知识深度和推理能力。通过这种方式，智能体不仅能依赖于模型的预训练知识，还能动态访问和处理更加广泛、详细的外部数据，从而显著提升其在复杂任务中的表现。

Spring AI Alibaba 社区双周会​

有兴趣参与社区周会讨论，和其他用户一起讨论关于 Spring AI Alibaba 的下一步发展计划和已有问题的解决方案。这是一个用于讨论最佳实践，提出问题和解决问题的会议。快来与其他用户一起参与到周会讨论中吧！

AI 原生实战营活动上海站来袭，为您带来关于 AI 应用开发的最新资料分享。

前言​

Hi，如果你能点进这篇文章，大概率也是在用Spring AI搭建Java AI应用的时候，碰到了各种让人头疼的配置动态管理的问题了吧~ 比如像调用算法模型的“API-KEY密钥”这类打死也不能让别人知道的敏感配置该如何加密存储管理，还有像模型的各类调用配置参数，以及Prompt Engineering里的Prompt Template如何可以在不发布重启应用的情况下，快速修改生效来响应业务需求的变化？另外 AI应用所依赖外部的向量数据库、文本Embedding服务的接入点、服务认证信息配置又该如何安全高效管理？不过不用焦虑，接下来我们就着这些问题深入讨论下，看看如何利用Spring AI Alibaba + Nacos来一一解决。

截止 2024-11-07，Spring AI Alibaba 开放原子基金会编程挑战赛报名启动！