L3 AI 工厂 / 云基础设施

AI中间件与MLOps

当前核心信号:2026-05-28

一句话判断

AI中间件与MLOps 是 L3 AI 工厂 / 云基础设施中连接上游供给、产业约束和下游 AI 需求的关键环节,当前主要观察 AI应用落地需要向量检索、模型管理和算力调度中间层,但向量能力被主流数据库内置,大厂平台化压缩独立工具护城河。

关键瓶颈 AI应用落地需要向量检索、模型管理和算力调度中间层,但向量能力被主流数据库内置,大厂平台化压缩独立工具护城河
代表公司 5 家
内容状态 部分填充

核心约束

先看卡点
AI应用落地需要向量检索、模型管理和算力调度中间层,但向量能力被主流数据库内置,大厂平台化压缩独立工具护城河

2026-05-28

代表公司

5 家

近期催化

1 条

研究笔记

来自 Obsidian

AI中间件与MLOps

AI 中间件与 MLOps 产业视觉图

关键信息摘要

Key Highlights

  • 向量数据库全球市场2025年约26.5亿美元,CAGR 22-28%,2030年预计达89.5亿美元;MLOps市场2025年约22-36亿美元,CAGR 37-42%;中国智能算力市场2024年约190亿美元,同比增长86.9%(IDC)
  • 关键并购:CoreWeave以约17亿美元收购W&B(2025.3),Databricks以约10亿美元收购Neon(2025),JFrog收购Qwak AI(2025);Pinecone 2025年下半年探索出售(竞争加剧信号)
  • 结构性风险:向量搜索正在被PostgreSQL pgvector、MongoDB、Elasticsearch等主流数据库内置,纯向量数据库独立护城河面临侵蚀
维度 内容
向量数据库全球市场规模 2025年约25-27亿美元(MarketsandMarkets / GM Insights)
MLOps全球市场规模 2025年约22-36亿美元(Fortune Business Insights / Grand View Research)
中国智能算力市场规模 2024年约190亿美元,同比增长86.9%(IDC)
核心参与者数量 13家(树状图原有);调研补充5家
年复合增长率 向量数据库22-28%;MLOps 37-42%;中国智算市场40%+(2024-2030)
报告数据截止日 2026年2月24日

行业定义与边界

AI原生中间件与开发平台是指位于底层算力基础设施(云/GPU集群)与上层AI模型/应用之间的技术中间层,为AI全生命周期(数据管理、模型训练、实验追踪、模型部署、推理监控、算力调度)提供开发工具、数据服务与编排能力。

本子行业涵盖三大细分赛道:

  • 向量数据库:专为AI嵌入向量(Embedding)存储与相似性检索设计的数据库系统,是RAG(检索增强生成)和语义搜索的基础设施
  • MLOps / AI开发平台:覆盖数据处理、特征工程、模型训练、实验管理、模型部署、监控运维全流程的平台与工具
  • 算力调度与算力网络:实现跨地域、跨架构(GPU/NPU/CPU)算力资源的统一纳管、智能编排与按需分配

与相邻子行业的区分:

  • 与"云计算与智算平台"的区别:云平台提供底层IaaS/GPU实例,本子行业在其上构建AI专用的软件工具层
  • 与"AI算力租赁"的区别:算力租赁侧重物理资源的转租与运营,本子行业的算力调度侧重软件定义的资源编排与优化

细分格局:

细分市场 代表厂商 市场特征
向量数据库(开源) Milvus/Zilliz、Weaviate、Qdrant、Chroma 开源驱动,社区活跃,商业化仍在探索
向量数据库(闭源/托管) Pinecone 全托管SaaS,易用性强,但面临大厂功能集成压力
MLOps平台(海外) Databricks、Datadog、Hugging Face、W&B(已被CoreWeave收购) 技术领先,生态成熟,估值/营收规模大
MLOps/AI平台(中国) 第四范式、星环科技、百度飞桨 聚焦行业场景,面临盈利压力
算力调度(中国) 中科曙光、青云科技、优刻得、并行科技 政策驱动,与"东数西算"深度绑定

市场规模与增长

向量数据库市场: MarketsandMarkets预测,2025年全球向量数据库市场规模约26.5亿美元,预计到2030年达到89.5亿美元,CAGR约27.5%。GM Insights给出2025年约25.5亿美元的估计,2026-2034年CAGR约22.3%。

市场驱动力:(1)RAG架构成为LLM应用标配,向量检索需求爆发;(2)多模态AI(图像、音频、视频嵌入)拓展向量数据库应用场景;(3)Gartner预测2026年30%的企业应用将使用向量数据库。

结构性风险:向量搜索正在被主流云数据库(PostgreSQL pgvector、MongoDB Atlas Vector Search、Elasticsearch)集成为内置功能,纯向量数据库的独立护城河面临侵蚀。

MLOps市场: Fortune Business Insights预测2025年全球MLOps市场约23.3亿美元,到2034年达259亿美元,CAGR约28.9%。Grand View Research给出更高估计:2025年约30.3亿美元,到2030年达166亿美元,CAGR约40.5%。

驱动因素:(1)2025年全球超过78%的大型企业已将ML模型部署至生产环境;(2)AI Agent与多模型编排推动MLOps从"模型管理"向"Agent运维"进化;(3)合规与可解释性要求推动模型监控需求。

中国算力调度与智算市场: IDC与浪潮信息联合报告显示,2024年中国智能算力规模达725.3 EFLOPS,同比增长74.1%,市场规模约190亿美元,同比增长86.9%。工信部目标2025年算力规模超300 EFLOPS,智能算力占比达35%。"东数西算"工程加速全国一体化算力网络建设,算力调度软件成为刚需。

技术演进路线

AI中间件与MLOps技术栈正从离散工具向全栈融合演进,2025-2026年进入整合深水区。关键路径:原始数据经过特征工程与存储,进入向量嵌入生成环节,再由专用向量数据库(或数据库内置向量功能)管理,供模型训练与实验管理平台调用,模型完成部署后通过推理引擎服务化,并由可观测性系统持续监控性能,底层所有任务由算力调度平台统一编排。

技术路线
阶段 01
原始数据源

结构化/非结构化

算力调度与资源编排
可观测性监控
阶段 02
特征工程与存储
阶段 03
向量嵌入生成
阶段 04
向量数据库

Milvus/Pinecone · pgvector 2025超10万部署

阶段 05
模型训练与实验管理

W&B, Databricks MLflow

阶段 06
模型注册与版本管理

MLflow Model Registry

阶段 07
模型推理服务
阶段 08
AI应用

RAG/Agent/大模型服务

原始图谱
flowchart TB
    A[原始数据源<br>结构化/非结构化]
    B[特征工程与存储]
    C[向量嵌入生成]
    D[向量数据库<br>Milvus/Pinecone<br>pgvector 2025超10万部署]
    E[模型训练与实验管理<br>W&B, Databricks MLflow]
    E2[模型注册与版本管理<br>MLflow Model Registry]
    F[模型推理服务]
    I[AI应用<br>RAG/Agent/大模型服务]
    
    A --> B --> C --> D --> E --> E2 --> F --> I
    
    H[算力调度与资源编排]
    G[可观测性监控]
    
    H -.- A & B & C & D & E & E2 & F
    G -.- E & E2 & F & H
  • 2023-2024年:向量数据库独立爆发,Milvus、Pinecone等厂商快速成长;MLOps从实验追踪起步,W&B、Databricks成为主流。
  • 2025上半年:CoreWeave以约17亿美元收购W&B(2025年3月),实现“GPU云+MLOps”全栈整合;Databricks以约10亿美元收购Neon,增强向量能力;Pinecone于2025年下半年探索出售,标志独立向量数据库护城河受侵蚀。
  • 2025-2026年:主流数据库全面内置向量搜索(pgvector 2025部署超10万实例),纯向量数据库市场空间被挤压,中间件全面向“Agent+向量检索+语义搜索”演进。算力调度层成为国产替代热点,中科曙光80亿可转债投向AI算力集群(2026年5月过会),并行科技前三季度智算云收入同比增长151%。
  • 2027年以后:AI原生操作系统化,算力调度、模型仓库、Agent编排融合为统一控制面,头部平台(Databricks、第四范式)形成多租户全栈服务。

产业价值链结构

产业价值链从上到下分为算力硬件与基础设施、模型开发与数据中间件、MLOps/AI平台、行业应用与最终客户四个层级。2025年全球向量数据库市场规模约26.5亿美元,MLOps市场约23-36亿美元,中国智能算力市场约190亿美元,整个价值链呈现“上游硬件标准化、中游平台集中化、下游场景碎片化”的格局。

价值链
上游 数据采集与标注

海天瑞声 688787.SH · 云测数据

中游 算力硬件/芯片

GPU: NVIDIA H100/B200 · NPU: 华为昇腾/寒武纪

下游 AI算力调度与云服务

中科曙光-立体计算 · 优刻得 688158.SH(AI收入占比31.5%)

下游 向量数据库与检索中间件

Milvus/Zilliz(开源,4万星) · Pinecone(全托管,正寻求出售)

下游 MLOps与AI开发平台

Databricks(未上市,1340亿$估值) · 第四范式 6682.HK(2024收入52.61亿)

下游 AI集成与解决方案

金融风控(第四范式) · 智算中心(曙光/优刻得)

终端 最终客户

政府/金融机构/运营商/互联网企业

原始图谱
flowchart LR
  A[数据采集与标注
海天瑞声 688787.SH
云测数据
2024中国AI基础数据服务市场规模约50亿元] --> B[算力硬件/芯片
GPU: NVIDIA H100/B200
NPU: 华为昇腾/寒武纪
服务器: 中科曙光 603019.SH 2024营收131.48亿]
  B --> C[AI算力调度与云服务
中科曙光-立体计算
优刻得 688158.SH(AI收入占比31.5%)
并行科技 920493.BJ(智算云收入+151%)]
  C --> D[向量数据库与检索中间件
Milvus/Zilliz(开源,4万星)
Pinecone(全托管,正寻求出售)
pgvector/Redis(数据库内置)]
  D --> E[MLOps与AI开发平台
Databricks(未上市,1340亿$估值)
第四范式 6682.HK(2024收入52.61亿)
星环科技 688031.SH]
  E --> F[AI集成与解决方案
金融风控(第四范式)
智算中心(曙光/优刻得)
互联网/电商(向量搜索)]
  F --> G[最终客户
政府/金融机构/运营商/互联网企业]
  • 算力硬件/调度层(中科曙光、优刻得、并行科技):提供异构算力池化和跨地域调度能力,直接受益于“东数西算”与智算中心建设,2024年中国智算市场规模同比+86.9%,但中小企业盈利能力弱,星环科技连续7年亏损。
  • 向量数据库层(Zilliz/Milvus、Pinecone):作为RAG的关键基础设施,开源与商业版并行;但2025年pgvector等通用数据库内置向量功能,独立厂商护城河变窄,Pinecone欲售即为信号。
  • MLOps平台层(Databricks、第四范式、星环科技):从模型训练延伸到部署监控,并向Agent运维升级。Databricks 2025年收入超54亿美元(+65%),第四范式核心AI平台收入+46.7%至36.76亿,平台效应明显,小厂商加速出清。
  • 解决方案与客户:最终场景集中于金融、政务、运营商等高预算领域,定制化需求多,对国产平台的政策倾斜为国内厂商提供结构性机会。

重点公司

本土龙头

  • 第四范式6682.HK)— 中国纯AI商业模式营收最大的公司;2024年全年总收入52.61亿元(同比增长25.1%),核心先知AI平台收入36.76亿元(同比增长46.7%);2025上半年经调整净亏损仅4,370万元,接近盈亏平衡;市值约318亿港元(2026年2月)
  • 中科曙光603019.SH)— 超算领域绝对龙头;"立体计算"战略,构建多维异构算力架构;参与七省智算中心建设;2024年全年营收131.48亿元;液冷技术领先(单机柜散热100kW)
  • 优刻得 UCloud688158.SH)— A股稀缺独立公有云+AI算力调度标的;管理AI算力规模约3,000P+;2025上半年AI收入占比达31.54%,毛利率从18.4%提升至25.0%;亏损持续收窄

海外对标

  • Databricks(未上市,预计2026年IPO)— 全球最大统一数据+AI平台;2025年12月完成50亿美元融资,估值达1,340亿美元;年化收入超54亿美元,同比增长65%;已收购MosaicML(13亿美元)、Tabular(10亿美元)、Neon(10亿美元)
  • Datadog(DDOG)— 全球领先云可观测性平台;2025财年全年收入34.3亿美元,同比增长28%;超5,500家客户使用Datadog AI集成;48%的财富500强为其客户
  • Hugging Face(未上市)— AI开源社区的"GitHub";估值45亿美元;超500万用户,托管超100万个模型;Google、Amazon、NVIDIA等均为投资方
  • Weights & Biases(已被CoreWeave以约17亿美元收购)— MLOps平台,超1,400家企业客户包括OpenAI、Meta、NVIDIA;CoreWeave通过此次收购实现"GPU云+MLOps平台"的全栈整合

未升格公司清单

留作行业全景参考,未单独建 note。出现重大催化时考虑升格。

  • 青云科技688316.SH)— 独立云平台+AI算力调度标的,市值约29亿元,净资产仅8,711万元,经营风险较高
  • 并行科技920493.BJ)— 2025年前三季度智算云收入同比增长151.1%;"并行算网"布局"东数西算";2025年内涨幅一度达288%
  • Zilliz / Milvus(未上市)— 全球最大开源向量数据库Milvus的商业化公司;GitHub Stars 40,000+,10,000+企业客户;技术全球领先,总部已迁至旧金山
  • Pinecone(未上市)— 全托管Serverless向量数据库,2025年下半年探索出售(前估值7.5亿美元);竞争格局恶化的标志性信号
  • Weaviate(未上市)— 混合搜索原生支持能力突出;2025年10月完成5,000万美元C轮融资,估值2亿美元
  • Qdrant(未上市)— 德国柏林开源向量数据库,Rust语言开发,2025年引入非对称量化技术实现24倍压缩
  • 百度飞桨 PaddlePaddle — 国内深度学习平台综合份额第一,2,333万开发者,76万家企业;百度集团内部战略资产,不可独立交易

景气度判断

当前景气度(描述性) 信号源:第四范式-6682.HK, 中科曙光-603019.SH, Datadog-DDOG

2025年AI中间件与MLOps行业整体处于高增长但内部分化剧烈的“整合洗牌期”。全球向量数据库市场约26.5亿美元(CAGR 27.5%),MLOps市场约23-36亿美元(CAGR 37-42%),中国智能算力市场2024年同比增速高达86.9%,短期需求确定性较强。然而利好与风险并存:一方面,CoreWeave以17亿美元收购W&B、Databricks以10亿美元收购Neon、Hugging Face估值45亿美元等标杆交易显示资本对全栈平台的追捧;Datadog AI集成客户超5500家,全年收入34.3亿美元,验证可观测性刚需。另一方面,向量数据库独立赛道正在被pgvector、MongoDB等主流数据库内置功能侵蚀,Pinecone 2025年下半年探索出售即为衰退信号。国内第四范式2025上半年接近盈亏平衡,平台规模化效应初现,但星环科技等厂商持续亏损面临生存压力;算力调度板块受“东数西算”与智算中心政策驱动,并行科技、优刻得等收入激增,但估值波动剧烈(并行科技年内股价波动超200%),概念炒作风险突出。综合判断,行业景气度中性偏积极,龙头平台(Databricks、第四范式、中科曙光)凭借全栈整合能力和政策红利更具穿越周期优势,缺乏规模效应的中小纯工具厂商将加速出清。

风险提示

关键风险

  • 向量数据库"功能化"危机:向量搜索被PostgreSQL pgvector、MongoDB等主流数据库内置,独立向量数据库厂商(Pinecone、Zilliz等)护城河受侵蚀,Pinecone 2025年下半年探索出售即为标志性事件
  • 中国AI平台分化加剧:强者恒强,缺乏规模效应的中小厂商(星环科技、青云科技等)面临生存压力,星环科技连续7年亏损且营收持续萎缩
  • 算力调度标的估值波动极大:并行科技等北交所标的2025年内股价波动超200%,存在"炒概念"风险,业绩验证周期长
  • 大厂平台化竞争:阿里云、华为云等加速推出AI中间件集成产品,对独立MLOps和算力调度厂商形成降维打击