算力、GPU、AI服务器详解.pdf

算力的概念和市场规模
一、什么是算力
算力顾名思义是“计算能力”的缩写,指的是IT设备的计算能力,在以“智算中心”“新基建”、“数字经济”以及“东数西算”等国家政策导向驱动下,“算力”相关话题近两年热度非常高,大家对算力的关注度也持续攀升。

智算特征—训练算力集中高密部署,推理算力贴近客户快速交互
训练:需要较高计算性能及海量数据,集群内网络时延性能要求高,需要集中高密部署;耗电量大,无需靠近最终用户,电力供应兴足、能成本低的豪贵甘宁等西部区域数据中心有一定优势
推理:需要低时延、高弹性的计算,需要与模型实时交互,可部署在贴近用户的数据中心,当前主要集中在训维一体的京津冀、长三角、大湾区等重点区域算力规模的统计标准
信通院发布了《中国算力发展智算白皮书》,作为权威机构的材料,对如何衡量“基础算力”、“智能算力”和“超算算力”给出了明确的解释。
结论归纳:与智算中心或者AI相关(默认是FP16)、超算HPC(默认是FP64)、部分情况为了便于统计,会统一换算为FP32(目前见到的不多),通常都会备注清楚。

本文来自知之小站

 

报告已上传百度网盘群,限时15元即可入群及获得1年期更新

(如无法加入或其他事宜可联系zzxz_88@163.com)