1.1 Al大模型应用落地，面临诸多挑战
大模型是人工智能发展的重要方向，其必要性体现在推动技术进步、促进经济发展、提升国家竞争力等多个层面。发展大模型已成为全球共识，也是我国实现科技自立自强、建设科技强国的必然选择。
AI大模型近年来在模型规模、架构创新、算法优化、训练方法、场景应用等方面上取得了显著突破，但在实际应用中仍面临诸多挑战：
高端算力芯片成本高昂且供应受限
大模型参数激增推高算力需求，模型训练算力成本极高，国产芯片算力密度与生态成熟度仍落后，同等任务需更多硬件堆叠，叠加电力、散热等边际成本，整体训练费用可达数千万美元级。目前仍依赖进口高端芯片，成本飙升，且受出口管制导致供应受限。
闭源模型私域部署困境
闭源模型(如GPT系列)无法本地化部署，迫使企业将敏感数据上传至第三方平台，存在泄露风险，并且按token收费的商用模式使得企业模型成本居高不下，虽然有部分开源模型可用，但技术支持不足，企业技术力量难以支撑，开源模型的开发成本对企业也难以承受。
国产芯片生态适配难题
国产芯片虽性能提升，但软件栈与CUDA/TensorFlow等国外框架兼容性差，迁移成本高，且开发者生态薄弱，缺乏成熟工具链支持，企业客户也对基于信创平台的模型性能和稳定性存在担心。
迫切需要高性能、高安全的国产算力+国产开源模型
受限于行业数据壁垒、客户数域的限制，而传统的x86平台+国外软件生态因安全问题存在风险和合规问题。
本文来自知之小站
PDF报告已分享至知识星球，微信扫码加入立享3万+精选资料，年更新1万+精选报告
（星球内含更多专属精选报告.其它事宜可联系zzxz_88@163.com）
