前言

最早是7月6号看到了 Coinbase在AI上工程化实践 ,让我开始深度思考和研究企业在未来采用部署AI的过程中会出现什么的趋势变化。(相关阅读 :CSP(云服务商)部署性价比高的开源模型并转售Token的意义 、 未来超大CSP的业绩表现将会衡量AI商业化更重要的指标 )

沿着这个思考进一步去深化扩展,就形成现在的这篇长文,更详细地聊聊个人的逻辑和想法。

一 分场景、多模型,企业采用AI进程进入工程化阶段带来的变化

1、分场景:企业不会再问“哪个模型最好”,而会问“这个任务应该用哪个模型”

未来不是“专项高性价比Token”,因为Token本身只是计量单位。真正被专项化的是:模型;推理策略;上下文与数据;工具调用路径;硬件与服务方式;安全和人工复核机制。

企业选择模型的目标函数将从单纯追求模型能力,变成:

任务净价值=任务成功概率×业务价值−推理及执行成本−错误与风险损失。

由此会形成四类典型场景:

例如,邮件分类、摘要、字段抽取、初步客服分流、代码格式检查等任务,对模型能力的边际要求较低,却具有调用量大、价格敏感的特点。这类任务会逐渐迁移到小模型、开放模型或CSP自研性价比模型。

而复杂代码生成、重要合同分析、科学推理、战略研究、复杂Agent规划等任务,模型准确率提升几个百分点可能对应很高的业务价值,因此仍愿意支付前沿模型溢价。

2、企业采用AI越深入,越需要专有的AI系统

无论前沿闭源大模型使用了多少公共、授权或合成数据,它通常都不掌握某一家企业的实时数据、内部规则、组织权限和隐性经验。 大企业更需要的是“私有 AI 边界”,包括数据不被用于训练、私有网络、专属租户、权限隔离、数据驻留和可审计性;只有一部分场景必须真正本地化或隔离部署。

企业真正缺少的不是一个“读过所有企业文件”的模型,而是一个能够在正确权限下,调用正确数据,并按企业规则采取行动的系统。

企业私有数据需要分四类处理:

而“经验型数据”是企业AI最难的资产,经验并不天然以数据形式存在。它通常分散在:老员工的判断中、邮件和聊天记录中、被否决但未记录的方案中、异常事件处理过程中、人工覆盖系统建议的动作中、客户投诉和事后复盘中。

要把这部分经验转化为AI资产,企业必须建立:

原始经验→任务样本→专家判断→正确与错误标准→模型评估集→反馈和后训练

因此大企业的护城河不是简单的“拥有很多文档”,而是:

能否把隐性知识转化为机器可学习、可检索、可评估、可执行的组织上下文。

这也正是为什么企业AI越来越需要FDE、数据工程师、领域专家和业务负责人共同参与。

而上面聊到这么多都指向了一点:

企业采用 AI 正从“购买最强模型”进入“围绕私有数据、业务流程和多模型系统进行工程化部署”的阶段 。

二 “复合AI系统”到“中间层”崛起

1、多模型、多模块:AI产品将从“模型调用”升级为“复合AI系统”

未来企业生产级AI系统通常不会只是一个模型API,而是由多个模块共同完成工作:用户请求、 身份与权限、场景识别、数据和上下文获取、 模型路由、模型推理、工具/API调用、结果验证、风险控制、人工复核或自动执行、监控和持续评估。

这里的“多模块”比“多模型”更重要。因为企业最终购买的不是模型本身,而是一个能够可靠完成业务任务的系统。

为什么企业会走向多模块?

1)单一模型不可能同时在质量、成本、速度、隐私和稳定性上都最优。

2)模型本身并不了解企业实时数据、权限体系和业务状态。必须通过数据层、检索层、工具层和系统连接器取得上下文。

3)生产环境需要可审计、可回滚、可监控。模型输出不能直接等同于业务执行。

4)模型更新频繁。企业必须把业务逻辑与特定模型解耦,避免每次模型变化都重写整个应用。

MCP等开放协议的出现,就是在试图标准化模型与数据源、企业工具之间的连接方式,减少每个模型分别开发连接器所造成的碎片化。

但多模型不等于模型数量无限增加

每增加一个模型,企业都会增加一组隐性固定成本:安全审核、法务与知识产权评估、数据驻留审查、质量基准测试、模型更新后的回归测试、运维和故障处理、供应商管理。所以最可能出现的组织形式并不是“每个团队自由选择几十个模型”,而是:

中央建立有限的合规模型池、统一数据与安全控制面;各业务部门根据场景调用不同模型。

这带来的趋势就是: 底层基础设施逐步集中,场景创新则分散到业务部门。

2、中间层价值崛起:成立,但必须区分“控制权”与“独立商业价值”

未来中间层大致可以分为六类:

哪些中间层最容易获得价值

最有可能长期捕获价值的,不是最薄的模型包装层,而是控制以下一种或多种稀缺资源的平台:

1)企业数据和上下文 :能够合法、实时、按权限调用企业数据。

2)身份和安全 :决定AI可以访问什么、可以替谁执行什么。

3)业务工作流 :掌握任务入口和执行闭环。

4)跨模型评估数据 :积累真实生产环境的质量、成本和风险数据。

5)分发能力 :已经拥有大量企业用户或系统入口。

数据平台、云平台、安全平台、ERP和行业软件厂商因此具备天然优势。

微软披露,其AI客户越来越多地同时使用Foundry、Fabric、Cosmos DB和安全治理服务;Google也强调AI使用推动BigQuery和数据工作流增长。这说明AI模型调用可能成为数据库、分析、存储、安全和Agent运行时等服务的获客入口

哪些中间层容易被商品化

以下中间层虽然有使用价值,但未必能形成独立利润池:

  • 简单API聚合;
  • 没有专有数据的模型路由;
  • 通用Prompt管理;
  • 没有业务闭环的基础Agent编排;
  • 只在多个模型之间转发请求的薄层产品。

原因是AWS、Microsoft、Google等CSP本身可以将这些功能作为云服务免费或低价捆绑;大型应用厂商也可以把它们内嵌到现有产品。

所以更准确的判断是:

中间层的战略重要性必然上升,但中间层独立厂商的总价值未必同比例上升。

中间层可能成为AI产业的“操作系统”,但最后获得经济利益的可能是:CSP、数据平台、安全和身份平台、拥有系统记录的应用软件公司、少数具有跨云中立性和专有生产数据的独立中间件厂商 。

跨云中立性会是独立厂商对抗CSP捆绑的重要优势。大型企业通常不愿把模型、数据、评估和治理完全锁定在同一个云平台,因此独立中间层仍有空间,但必须提供超越“简单调用模型”的能力。

三 多模型时代,超大CSP会不会成为坚实中间层

1、CSP部署开放模型和自研性价比模型,会带来什么变化?

变化一:模型调用从单一供应商采购,变成模型组合管理

企业不再只与一个模型厂商深度绑定,而会维护一个模型组合:

  • 前沿闭源模型承担能力要求最高的任务;
  • 开放模型承担可标准化和可私有化任务;
  • CSP自研模型承担高频、成本敏感任务;
  • 企业自有模型承担高度专有、数据敏感任务。

CSP成为模型组合的入口和路由器。模型厂商争夺的不再只是客户,而是模型在路由系统中的 任务分配份额 。

新的模型竞争指标因此包括:被纳入多少企业合规模型池?在路由器中获得多少请求?获得的是高价值任务还是低价任务?

变化二:模型价格下降,但总AI支出未必下降

模型变小、缓存增加和上下文压缩会降低每任务Token和每Token价格;但成本下降也可能激发更多使用场景,使任务量大幅增长。

变化三:CSP收入来源从模型抽成扩展到全栈附着

即使开源模型不产生高额模型授权收入,CSP仍可以从以下环节收费:GPU、TPU和自研ASIC计算;托管推理服务;数据库和向量检索;对象存储;网络和数据传输;Agent运行时;安全和身份;评估、日志和监控;企业支持服务。

因此, CSP真正关心的不是模型本身的收入份额,而是:

CSP AI总毛利=推理毛利+数据附着毛利+存储网络毛利+安全治理毛利+Agent运行时毛利

AWS披露Bedrock客户支出环比增长、Token处理量大幅上升,同时推出AgentCore注册、政策和评估等服务;Microsoft和Google也在推动模型、数据、Agent和治理服务的组合。这说明CSP正在试图把模型服务转化为全栈云消费。

变化四:模型厂商价值不会消失,但会向能力顶端和应用端延伸

开源和自研性价比模型会压缩中低端模型的价格,但不会自动消除前沿模型价值。模型厂商可能采取三条路径:1)持续提高能力上限,保持复杂任务溢价;2)向Agent、编码、研究等高价值应用上移;3)提供定制后训练、安全、企业治理和专属容量。

最终更可能形成:

CSP控制基础设施和模型分发;

前沿模型厂商控制能力上限;

中间层控制上下文、治理和调度;

应用厂商控制工作流和用户入口。

这不是单一层赢家通吃,而是不同层分别收取不同类型的租金。

变化五:企业在模型层的议价能力提高,但平台锁定可能加深

多模型和开放模型降低了企业对单一模型厂商的依赖。

但如果企业的数据、权限、Agent状态、评估系统和工作流都部署在同一个CSP上,那么模型层锁定下降的同时,云平台锁定反而可能上升。

也就是说:

模型可替换性提高,不代表整体架构可迁移性提高。

2、CSP控制的是横向AI底座,垂直SaaS控制的是业务执行层

CSP最有可能捕获以下价值 :GPU、TPU和自研ASIC算力;开源模型托管;闭源模型分发;模型微调与蒸馏;数据库和数据湖;向量检索与知识图谱;网络和存储;身份和权限;安全与治理;Agent运行时;评估和可观测性;企业技术支持。

垂直SaaS掌握: 工作入口;业务对象;业务语义;用户权限;历史操作数据;系统记录;行业规则;最终动作执行;客户结果反馈。

因此,它可以把便宜模型包装成高价值业务结果。

但 这只适用于真正拥有工作流和核心独家数据的SaaS。只是给通用模型套一个简单界面的薄应用,反而容易被模型厂商或CSP替代 。之前这里 https://x.com/qinbafrank/status/2059845057155608629?s=20

有聊过这一点。

3、最可能形成“双中间层”

原始来源PANews 中文文章

原文页面仍是署名、版权归属和后续更新的最终来源。

查看原文 ↗

免责声明:本文仅用于信息交流,不构成投资建议。数字资产具有高风险,请自行判断。