February 8, 2025
今年的春节注定不寻常,开源大模型领域的“国货之光”们接连发布新版本,多项指标对标 OpenAI 的正式版(收费服务)。 + 1月20日,DeepSeek R1 发布,在数学、代码、自然语言推理等任务上,性能比肩 OpenAI o1 正式版。[1] + 1月27日,Qwen2.51M:支持 100万 Token 上下文,其中 14B 的杯型在短文本任务上实现了和 GPT4omini 相近的性能,同时上下文长度是 GPT4omini 的八倍;长上下文任务在多个数据集上稳定超越 GPT4omini。[2] + 1月27日,DeepSeek JanusPro 发布,多模态理解和生成模型,其中 7B...
December 28, 2024
MCP 简介 是一个开放协议,它规范了应用程序如何向大型语言模型(LLM)提供上下文。MCP 提供了一种统一的方式将 AI 模型连接到不同的数据源和工具,它定义了统一的集成方式。在开发智能体(Agent)的过程中,我们经常需要将将智能体与数据和工具集成,MCP 以标准的方式规范了智能体与数据及工具的集成方式,可以帮助您在LLM之上构建智能体(Agent)和复杂的工作流。目前已经有大量的服务接入并提供了 MCP server 实现,当前这个生态正在以非常快的速度不断的丰富中,具体可参见:。 Spring AI MCP Spring AI MCP 为模型上下文协议提供 Java 和 Spr...
December 9, 2024
本文作者:刘军,Spring AI Alibaba 发起人,Apache Member。 编者按:6年前,2018年10月,阿里巴巴开源 Spring Cloud Alibaba,旨在帮助 Java 开发者通过 Spring Cloud 编程模型轻松开发微服务应用。6年后,大模型和 AI 正在深刻改变我们工作和生活的方方面面,不再是移动屏幕端,而是整个物理世界。恰逢其时,阿里云开源 Spring AI Alibaba,旨在帮助 Java 开发者快速构建 AI 应用,共同构建物理新世界,欢迎您加入社区,一起参与这件激动人心的事情。 近期,阿里云重磅发布了首款面向 Java 开发者的...
December 9, 2024
前言 Hi,如果你能点进这篇文章,大概率也是在用Spring AI搭建Java AI应用的时候,碰到了各种让人头疼的配置动态管理的问题了吧~ 比如像调用算法模型的“APIKEY密钥”这类打死也不能让别人知道的敏感配置该如何加密存储管理,还有像模型的各类调用配置参数,以及Prompt Engineering里的Prompt Template如何可以在不发布重启应用的情况下,快速修改生效来响应业务需求的变化?另外 AI应用所依赖外部的向量数据库、文本Embedding服务的接入点、服务认证信息配置又该如何安全高效管理?不过不用焦虑,接下来我们就着这些问题深入讨论下,看看如何利用Spring ...