半导体行业深度:AI加速器协同高速通信技术,加速AI创新发展.pdf

核心要点:
训练端计算集群渗透率稳步提升,AI计算加速器需求上行

业界通常根据AI模型发展的关键节点,将人工大智能分为训练端(Training)和推理端(Inference)。训练端的核心目标是训练出能够完成目标任务的人工智能大模型产品。训练端AI大模型的参数持续增多,AI算力平台从过去依赖单一计算机的算力逐渐演变为依赖计算集群,研究显示大模型的参数、样本数与训练大模型所需GPU卡数呈正相关关系;大模型参数的增加会持续拉动AI计算加速器的需求。随着AI大模型训练需求及模型参数的提升,AMD预计2023年至2027年全球用于数据中心的AI计算加速芯片市场规模的年均复合增速约为72.7%。
网络优化提升计算集群性能,Infiniband与RoCE方案市场渗透率提升
中国移动披露的数据显示大模型训练需要在不同的GPU网卡之间传递大量参数和梯度信息,GPU通信时间占比达到50%以上,提升同一机器内GPU与各硬件的传输效率、不同服务期间信息的传输效率对于大模型训练效率的提升至关重要。GPU集群的跨服务器通信解决方案领域,业界多采用InifiniBand和RoCE解决方案。其中RoCE网络方案的普及,或带动DPU崛起,赛迪顾问统计数据预计2020年至2025年我国DPU市场规模年均复合增速约为170%。

RoCE以太网正在向400GbE/800GbE升级演进;IDC发布的报告显示,2023年全球数据中心领域200/400 GbE交换机的收入同比增长68.9%,Dell’Oro预测2024年将是800GbE以太网部署的重要一年,预计到2027年,400 Gbps/800 Gbps的端口数量渗透率将达到40%以上;带动高性能以太网交换机设备及以太网交换芯片需求增长。存储设备领域,NVMe-oF+NVMe SSD方案具有更高的性能、更低的延迟、更高的可扩展性;Markets And Markets预计受人工智能技术、物联网、数据安全等多种需求推动,2022年至2025年,NVMe市场规模年均复合增速达
29.7%。
投资建议

AI大模型领域竞争的加剧叠加AI大模型参数的持续增长,推动大模型训练端的算力平台从依赖单一计算机的算力逐渐演变为依赖计算集群,催生了优化算力集群间跨服务器信息传输效率的需求。计算集群数量的提升,持续提振AI加速器(GPU、FPGA、ASIC)的市场需求。算力集群间跨服务器传输效率的优化会推升Infiniband及RoCE网络方案的市场渗透率,高性能IB交换机、以太网交换机,IB网卡、以太网智能网卡、DPU,NVMeSSD等多种半导体硬件需求有望中长期受益。建议持续关注半导体行业,维持行业“增持”评级。
风险提示
下游需求不及预期;企业新产品研发落地进展不及预期;政策支持力度不及预期。1 AI基础设施建设加速,奠定AI发展的基础
2024年3月初发布的《政府工作报告中》将“适度超前建设数字基础设施,加快形成全国一体化算力体系;深化大数据、人工智能等研发应用,开展“人工智能+”行动,打造具有国际竞争力的数字产业集群。”列为2024年的重点工作目标。回溯历史会发现,每一轮推动人类社会生产方式的重大的科技革新都伴随着基础设施的建设。
第一次工业革命以蒸汽机的发明和应用为标志,开启了人类大机器生产时代。这一时期,生产力的飞速发展对交通运输和能源供应提出了新的要求,铁路、运河等基础设施应运而生。它们极大地提高了运输效率,促进了商品流通和市场经济的发展,为工业革命的深入发展奠定了基础。
第二次工业革命以电力的发明和应用为标志,开启了电气时代。这
一时期,电力的广泛应用推动了生产力的再次飞跃,高速公路、电网等基础设施相继出现。高速公路的建设便捷了人员和货物的流动,电网的建立则为工业生产和日常生活提供了可靠的能源保障。
第三次工业革命以信息技术的兴起为标志,开启了信息时代。互联网、移动通信网络等信息基础设施的出现,彻底改变了人们的生产和生活方式。信息技术的广泛应用,推动了经济社会数字化转型,并
催生了新兴产业和商业模式的快速发展
2023年初,以ChatGPT为代表的生成式人工智能通用大模型的诞生推动着AI赋能千行百业的步伐加速,生成式Al主要用于内容生成,在学习归纳已有数据的基础上,学习数据产生的模式,并创造数据中不存在的新样本,实现了从数据分析到内容创作的跨越式发展;业界普遍认为以ChatGPT为代表的人工智能大模型的诞生或标志着新一轮科技革命的开启。AI的快速发展和应用落地对于基础设施也提出了更高的要求,Al新型基础设施这一概念受到政府及市场的广泛关注。中国信通院联合华为发布的《星河AI网络白皮书》指出,AI新型基础设施分为信息基础设施、融合基础设施和创新基础设施三类,其中信息基础设施是AI新型基础设施的核心;融合基础设施是传统基础设施升级转型的重要支撑;创新型基础设施则是支持Al应用落地的具有公共属性的基础设施。

本文来自知之小站

 

PDF报告已分享至知识星球,微信扫码加入查阅下载3万+精选资料,年享1万+精选更新

(星球内含更多未发布精选报告.其它事宜可联系zzxz_88@163.com)