L4 模型层

开源生态与RAG与Agent

当前核心信号:2026-06-01

一句话判断

开源生态与RAG与Agent 是 L4 模型层中连接上游供给、产业约束和下游 AI 需求的关键环节,当前主要观察 开源模型、RAG和Agent框架加速企业AI落地,但SDK框架被低代码平台和大模型原生能力挤压,商业化路径仍待验证。

关键瓶颈 开源模型、RAG和Agent框架加速企业AI落地,但SDK框架被低代码平台和大模型原生能力挤压,商业化路径仍待验证
代表公司 1 家
内容状态 部分填充

核心约束

先看卡点
开源模型、RAG和Agent框架加速企业AI落地,但SDK框架被低代码平台和大模型原生能力挤压,商业化路径仍待验证

2026-06-01

代表公司

1 家

近期催化

3 条

研究笔记

来自 Obsidian

开源生态与RAG与Agent

RAG 与 Agent 生态视觉图

关键信息摘要

Key Highlights

  • 全球模型生态与工具链市场(2024)约80-100亿美元→(2026E)约250-320亿美元;AI Agent市场(2025)76亿美元→(2030)471亿美元(CAGR 45.8%)
  • Hugging Face估值45亿美元,ARR约7000万美元(增速367%),被誉为"AI界的GitHub";Cloudflare收购Replicate(2025年11月),边缘AI推理战略整合
  • Dify(低代码Agent平台,GitHub 55K+ Stars)、Coze/扣子(字节)是中国LLM开发平台的头部玩家;LangChain估值12.5亿美元
项目 内容
全球市场规模(2024) 约80-100亿美元(含模型API、开发工具链、Agent框架、安全工具)
全球市场规模(2026E) 约250-320亿美元
中国市场规模(2024) 约150-200亿元人民币
中国市场规模(2026E) 约500-650亿元人民币
CAGR(2024-2028) 35%-45%
核心驱动力 开源模型爆发、Agent范式兴起、企业AI落地提速
代表企业 Hugging Face、Together AI、LangChain、Dify、Coze(扣子)

行业定义与边界

开源模型生态与RAG/Agent框架是围绕AI基础模型构建的中间层产业,处于基础模型(Foundation Model)和终端AI应用之间的关键连接位置。核心使命是降低大模型使用门槛,提升模型在实际业务场景中的可用性、安全性和工程化水平。

  1. 开源模型生态/模型市场:提供模型的托管、分发、搜索、评测和运行环境,类似AI领域的"GitHub+NPM"。代表:Hugging Face、魔搭社区、Together AI、Replicate(已被Cloudflare收购)、Ollama。

  2. RAG/Agent框架:为开发者和企业提供连接大模型与外部数据、工具、流程的编排层。包括SDK型框架(LangChain、LlamaIndex)、低代码/可视化平台(Dify、Coze/扣子、FastGPT)以及多Agent协作框架(CrewAI)。

行业边界:该行业不直接训练大规模基础模型,但为模型的分发、编排、应用和安全提供不可或缺的基础设施。上游延伸至基础模型训练,下游衔接垂直行业AI应用。

市场规模与增长

全球市场

  • 模型API与推理市场:从2023年的35亿美元快速增长至2025年的约84亿美元,预计2026年将突破120亿美元
  • AI Agent市场:2025年全球76亿美元,预计2030年增长至471亿美元(CAGR 45.8%)
  • AI开发工具市场(2024):约60-70亿美元,CAGR 23%+,到2026年有望达到100-120亿美元

综合以上细分,2024年全球模型生态与工具链市场总规模约为80-100亿美元,预计2026年达到250-320亿美元。

中国市场

以魔搭社区、Dify、Coze等为代表的中国平台在开发者数量和模型部署量上均实现倍增。中国开源模型(Qwen系列、DeepSeek等)在全球开源社区的影响力从2024年下半年开始显著提升。估计2024年中国市场规模约150-200亿元,2026年有望达到500-650亿元。

技术演进路线

开源生态与RAG/Agent的技术演进呈现“模型民主化→编排抽象化→Agent自主化”三阶段跃迁,各阶段核心驱动力与技术栈切换清晰可循。

技术路线
阶段 01
开源基模型爆发

Llama2/3, DeepSeek V2/V3, Qwen2.5 · 2023-2024

阶段 02
模型托管与推理平台

Hugging Face/100万模型+ARR 0.7亿 · Together AI/ARR 3亿

阶段 03
SDK型编排框架

LangChain/GitHub 118K★, 估值12.5亿 · LlamaIndex/100+连接器

原始图谱
flowchart LR
    A[开源基模型爆发<br/>Llama2/3, DeepSeek V2/V3, Qwen2.5<br/>2023-2024] --> B[模型托管与推理平台<br/>Hugging Face/100万模型+ARR 0.7亿<br/>Together AI/ARR 3亿<br/>CAGR 45%] --> C[SDK型编排框架<br/>LangChain/GitHub 118K★, 估值12.5亿<br/>LlamaIndex/100+连接器<br/>2022-2024]

关键节点解析

  • 2023-2024 开源基模型爆发:Meta Llama 2/3、阿里Qwen2.5、DeepSeek V2/V3 相继开源,推动推理成本下降60-80%,使中小企业可基于开源模型构建应用,直接拉动上游模型托管平台需求。Hugging Face 2024年ARR达7000万美元(同比+367%),Together AI 2025年ARR达3亿美元。
  • 2022-2024 SDK型框架确立:LangChain(2022发布)与LlamaIndex(2023)以链式编排与数据连接器降低大模型工程复杂度,但2024年下半年起面临来自低代码平台与大模型原生Function Calling/MCP协议的挤压,护城河收窄。
  • 2023-2024 RAG与向量数据库成熟:Pinecone、Zilliz Milvus(开源)与Weaviate等向量数据库成为RAG标准组件,检索精度提升至90%+,形成“嵌入模型+向量库+重排序”技术栈。
  • 2024-2025 低代码Agent平台快速渗透:Dify(GitHub 55K+ Stars)和字节跳动Coze/扣子(周访64万)提供可视化工作流、多模型切换与Plugin市场,将AI开发门槛从工程师降至业务人员。同期,FastGPT、RAGFlow(无穷流科技)专注私有化部署,满足中国企业对数据安全的严苛要求。
  • 2025-2026 多Agent协作与MCP协议:CrewAI声称服务60%财富500强,微软AutoGen深度集成Azure,Anthropic MCP协议推动Agent与外部工具的标准化交互。Agent模式从“单指令”向“多步规划与执行”演进,Gartner预测到2028年33%的企业软件将内置Agent AI。
  • 2026+ 企业级运维与边缘推理:Cloudflare(NET)2025年11月收购Replicate,将无服务器GPU推理接入全球CDN网络,边缘AI推理延迟降至<50ms。LangSmith(LangChain旗下)与Weights & Biases(估值8.7亿美元)提供Agent可观测与实验管理,解决企业级落地的可靠性痛点。

上市公司与技术标的:阿里巴巴集团(09988.HK)通过魔搭社区和Qwen系列占据中国开源模型分发核心位;百度(09888.HK)文心智能体平台与百度心响提供Agent开发底座;腾讯控股(00700.HK)元器智能体平台深度集成微信生态;Cloudflare(NET)收购Replicate后成为边缘AI推理关键玩家;NVIDIA(NVDA)以80%+数据中心GPU市占率支撑全栈算力。整体市场CAGR 35-45%,2026E全球规模约250-320亿美元。

产业价值链结构

产业链自上而下分为“算力与模型供给→模型分发与编排→开发平台与工具→终端应用”四大环节,其中编排层和平台层价值最集中,也是当前资本密集投入的赛道。

价值链
上游 算力与GPU

NVIDIA (NVDA) H200/B200 · 市占率>80%

中游 开源/闭源基础模型

DeepSeek V3, Qwen2.5, Llama3.1 · OpenAI GPT-4o, Claude

下游 模型托管与推理

Hugging Face/ARR 0.7亿 · Together AI/ARR 3亿

下游 编排框架

LangChain/估值12.5亿 · LlamaIndex, CrewAI

下游 低代码Agent平台

Dify/55K★, Coze/周访64万 · FastGPT, 文心智能体, 腾讯元器

下游 垂直AI应用

Cursor/ARR 1亿+, Perplexity · 金融/医疗/客服Agent

下游 企业私有化部署

RAGFlow, FastGPT · 合规与数据安全

终端 监控与MLOps

LangSmith, Weights&Biases/估值8.7亿 · Cloudflare边缘推理/NET

原始图谱
flowchart LR
    U1[算力与GPU<br/>NVIDIA (NVDA) H200/B200<br/>市占率>80%] --> U2[开源/闭源基础模型<br/>DeepSeek V3, Qwen2.5, Llama3.1<br/>OpenAI GPT-4o, Claude] --> M1[模型托管与推理<br/>Hugging Face/ARR 0.7亿<br/>Together AI/ARR 3亿<br/>魔搭社区/阿里云 (09988.HK)] --> M2[编排框架<br/>LangChain/估值12.5亿<br/>LlamaIndex, CrewAI] --> M3[低代码Agent平台<br/>Dify/55K★, Coze/周访64万<br/>FastGPT, 文心智能体, 腾讯元器] --> D1[垂直AI应用<br/>Cursor/ARR 1亿+, Perplexity<br/>金融/医疗/客服Agent] --> D2[企业私有化部署<br/>RAGFlow, FastGPT<br/>合规与数据安全]
    M1 --> M4[监控与MLOps<br/>LangSmith, Weights&Biases/估值8.7亿<br/>Cloudflare边缘推理/NET]
    M2 --> M4
    M3 --> M4

四大价值环节

  1. 算力与模型供给(上游):英伟达(NVDA)数据中心GPU市占率超80%,2025年H200/B200成为推理主力;开源模型阵营以Meta Llama、阿里Qwen、DeepSeek为代表,2024-2025年开源模型推理成本下降70%以上,促使下游生态繁荣。
  2. 模型分发与推理(中游-基础设施):Hugging Face托管超100万个模型,ARR 0.7亿美元(+367%);Together AI 凭借推理优化与细粒度计费,2025年9月ARR达3亿美元;阿里巴巴魔搭社区(09988.HK)作为Qwen首发平台,日均模型下载量超百万次,深度绑定阿里云弹性推理实例。
  3. 编排与开发平台(中游-工具链):LangChain(估值12.5亿美元)与LlamaIndex定义了SDK型框架的标准范式,但正被低代码平台侵蚀。Dify(GitHub 55K+ Stars,估值约3-5亿美元)和字节跳动Coze通过可视化工作流、RAG管道与Plugin市场,将开发者规模扩大10倍以上。百度(09888.HK)文心智能体平台、腾讯(00700.HK)元器则依托生态优势锁定开发者。企业级Agent可观测与实验管理由LangSmith和Weights & Biases(估值8.7亿美元)提供,Cloudflare(NET)通过收购Replicate在边缘网络植入AI推理,形成差异化。
  4. 终端应用与私有化部署(下游):生成式AI编码助手Cursor 2025年ARR突破1亿美元,Perplexity等AI原生产品验证了Agent模式的商业价值。在中国市场,RAGFlow(无穷流科技)、FastGPT等开源项目提供可私有化部署的知识库Agent,满足金融、政务等数据敏感性行业的合规需求。

价值分配特征:算力与模型层占据产业链约45-50%的价值,推理与编排层约30%,终端应用约20-25%。但随着Agent自主性增强和推理成本继续下探,编排层的价值占比有望在2026-2028年提升至35%以上。

重点公司

本土龙头

  • 魔搭社区 ModelScope(阿里巴巴旗下):中国最大的开源模型社区,由阿里云达摩院运营。托管数千个模型,深度集成阿里云基础设施,是Qwen系列模型的首发平台。中国市场模型托管平台的事实标准。
  • Dify(未上市):开源LLM应用开发平台,支持20+主流大模型动态切换,提供低代码可视化开发环境。GitHub Star超55K,2024-2025年增长最快的LLM开发平台之一,估值约3-5亿美元。
  • Coze/扣子(字节跳动旗下):低代码AI智能体开发平台,周访问量超64万,依托字节跳动流量快速获客,与豆包大模型深度集成。
  • FastGPT(开源):集知识库管理、RAG检索和Agent能力于一体的开源平台,特别适合需要私有化部署的中国企业客户。

海外对标

  • Hugging Face(未上市):全球最大AI模型开源社区与托管平台,超过100万个模型、数据集和应用。估值约45亿美元(2023年8月D轮后),ARR约7000万美元(同比增速367%)。Transformers库GitHub 121K+ Stars。投资者:Google、Amazon、NVIDIA、Salesforce等。
  • Together AI(未上市):开源模型推理与训练云平台龙头,估值33亿美元(2025年2月B轮后),ARR约3亿美元(2025年9月)。
  • LangChain(未上市):LLM编排框架先行者,估值12.5亿美元(2025年10月B轮后),GitHub 118K+ Stars。产品矩阵包括LangChain、LangGraph、LangSmith。
  • LlamaIndex(未上市):RAG领域专精框架,100+数据连接器,在知识密集型应用中表现卓越。

未升格公司清单

留作行业全景参考,未单独建 note。出现重大催化时考虑升格。

  • Replicate(已被Cloudflare收购,2025年11月):无服务器GPU推理平台,Cloudflare借此强化边缘AI推理能力,将AI推理纳入CDN网络
  • Ollama(开源):本地大模型运行工具,开发者社区极高知名度,仅融资12.5万美元但影响力与投入严重不对等
  • Modal(未上市):无服务器AI/ML云基础设施平台,估值约10亿美元
  • Weights & Biases(未上市):ML实验跟踪和模型管理MLOps平台,估值约8.7亿美元
  • CrewAI(未上市):多Agent编排框架,声称服务60%财富500强,融资1800万美元
  • AutoGen/Microsoft Agent Framework:微软统一Agent开发框架,深度集成Azure生态
  • 百度心响/文心智能体平台:百度推出的智能体开发平台
  • 腾讯元器:腾讯AI智能体开发平台,深度集成微信生态
  • RAGFlow(无穷流科技):开源深度文档理解和RAG引擎,2024-2025年中国开源RAG领域新星

景气度判断

当前景气度(描述性) 信号源:

Agent框架是2025-2026年增长最快的细分。从SDK型框架(LangChain)到低代码平台(Dify、Coze)的范式迁移正在发生,市场需求从"开发者工具"向"企业生产力工具"演进。

Cloudflare收购Replicate(2025年11月)是大厂整合生态的典型案例,将AI推理能力嵌入已有CDN网络。Gartner预测到2028年33%的企业软件将包含Agent AI,驱动整个工具链生态的持续扩展。

风险提示

关键风险

  • LangChain等SDK型框架面临来自低代码平台和大模型厂商原生能力的双重挤压,先发优势可能迅速丧失
  • 开源商业化模式(Red Hat模式)在中国资本市场认可度尚待验证,Dify等开源项目的营收规模化路径不清晰