生成式和代理式AI就绪基础设施战略.pdf

本简报内容
人工智能,尤其是生成式人工智能(GenAl),正处于加速开发和部署阶段。企业的投资激增,测试了数百个场景,并确定了加速计算、云基础设施以及自动化开发和数据管理工具链在推动这类强大技术应用于大规模生产过程中起到的关键作用。
A可实现日常工作自动化,提高效率,因此可能会彻底改变从客服到各种内部流程的运营方式。Al技术的快速普及必然会产生深远的经济影响,重塑行业,开辟新市场,改变竞争格局。
本简报将介绍IDC对Al全球使用情况、影响和价值创造的研究,聚焦企业在基础设施现代化、治理和运营模式等方面面临的机遇和挑战。它还为技术买家提供了一些建议,确保他们成功部署和规模化运营Al。AI能否从小规模概念验证(POC)成功过渡到应用于大规模生产取决于企业能否从性能、成本、安全和合规等关键角度优化基础设施战略。
数据量、连接和监管要求等对许多有关部署位置和计算平台的决策起决定作用。

▶模型要求差异很大———刀切的基础设施战略可能效率低且成本高昂。
▶基础设施与Al场景必须相匹配,才能实现业务目标。
·模型规模和性能

数据量和速度
·所需的价值实现时间

·所需的输出精度

·使用量和容量

·模型自定义和更新的级别和
频率
·数据和工作流互操作水平

延迟和性能
·数据安全、合规和主权

▶确保应用开发和测试标准能预测生产需求。
▶制定动态持续的模型更新和迁移计划,以满足不断变化的数据科学和业务需求。

A就绪型基础设施成功清单
调整现有治理和运营模式,以适应A赋能型业务。
贯彻工作负载和数据驱动的决策框架。

根据使用场景,将应用和数据匹配到最合适的平台和部署模式。
打造互操作性、可移植性,实现动态持续的模型更新和迁移。
利用开源社区和供应商群体,获取最新的创新成果和最佳实践。
投资人员、流程和技能,实现自动化和智能运营。

 

本文来自知之小站

 

报告已上传百度网盘群,限时15元即可入群及获得1年期更新

(如无法加入或其他事宜可联系zzxz_88@163.com)