AI已在董事会议程中成为战略焦点,却未能带来匹配的商业成效。IBM商业价值研究院(IBMIBV)调研揭示,过去两年启动的AI项目,有近40%止步于试点阶段,未能全面推广。1然而,AI之困不在试点:底层架构割裂,制约了AI落地。
成功的AI架构,应如精密引擎般运作:计算驱动、数据赋能、治理保稳。然AI真正上阵时,隐患尽显:数据碎片化导致无法有效驱动AI模型,治理标准不一致使风险失控,基础设施平台难以承载现实工作负载。当AI迈向具备独立决策能力的智能体时代,组织必须以更专业、更协调的基础设施为其保驾护航。
为此,组织正重金押注,以求破局。IBMIBV最新调研显示,1200位最高管理层中,三分之二正加码基础设施投入,2025年预算平均增幅近19%。
但AI的成功无法靠预算堆砌,而是依靠系统性的建设与能力积累。
分析表明,具备高成熟度与基础设施就绪度的组织,共享一套共通基因,助其实现价值驱动的AI应用。(详见第17页观点:“AI落地的必备要素”)。这些核心能力,正是打造“有设计、有集成、有成效”的AI基础设施蓝图。即便组织战略方向明晰,但AI落地仍受制于基础设施短板。62%的高管立志三年内实现跨环境AI部署,但仅有8%的高管认为,现有基础设施能完全满足AI需求。这一巨大落差,实为战略天花板,而非单纯技术鸿沟。
准备度差距的根源,是组织仍试图沿用在过去的IT环境下行之有效的传统规划方法,来构建复杂的AI能力。既定方法难以匹配AI的动态特性,大规模推理产生脉冲式算力需求,模型训练依赖广域性计算架构,而全流程资源消耗则呈现持续高压状态。
AI时代,组织亟需重构基础设施规划思维,但前行之路受制于两大核心难题。
挑战一:如何在不牺牲安全或治理要求的前提下,让分散的数据为AI所用?企业数据的分散格局,既是历史遗留的结果,也源于隐私与安全策略的复杂性。高管表示,近三分之二的数据仍留驻本地,余下分布于私有云、公有云等混合环境中。数据碎片化正成为AI发展的致命瓶颈:多位高管一致指出,数据可访问性与可用性不足,是AI投资失利的核心症结。68%的组织正以数据结构方案打通数据孤岛,但仅42%对自身基础设施应对AI模型的算力与数据需求有信心。
挑战二:负载动态变化难以预估,如何构建可伸缩的技术弹性?大型语言模型(LLM)主导当下,但AI的未来属于多模型共融²,通用与专用并举。目前,已有43%组织采用混合模型策略,根据业务需求战略性组合定制模型、大型语言模型及小型开源模型。多模型并存带来动态负载变化,资源需求随时波动。这种动态变化构成完整的负载脉络:从高强度脉冲式的训练作业,到需持续稳定的低压推理流。然而,仅49%的高管相信,能够在未来三年内集成更小的开源AI模型,更少数(46%)认为,能实现大规模实时推理的高强度需求。传统方案导致组织陷入典型困境:选择资源错配的过度配置,或转向由供应商管理容量风险的即服务模式。

本文来自知之小站
报告已上传百度网盘群,限时15元即可入群及获得1年期更新
(如无法加入或其他事宜可联系zzxz_88@163.com)