算力、GPU、AI服务器详解.pdf

一、什么是算力
算力顾名思义是“计算能力”的缩写,指的是IT设备的计算能力,在以“智算中心”“新基建”、“数字经济”以及“东数西算”等国家政策导向驱动下,“算力”相关话题近两年热度非常高,大家对算力的关注度也持续攀升。
二、算力的规模情况

智算特征一训练算力集中高密部署,推理算力贴近客户快速交互
3.训练:需要较高计算性能及海量数据,集群内网络时延性能要求高,需要集中高密部署;耗电量大,无需靠近最终用户,电力供应充足、能源成本低的豪华甘宁等西部区域数据中心有一定优势
推理:需要低时延、高弹性的计算,需要与模型实时交互,可部署在贴近用户的数据中心,当前主要集中在训一体的京津冀、长三角、大湾区等重点区域上述算力分类是从狭义的角度进行的统计,目前和信息技术有关的一切,其实都可以笼统称为算力领域
算力及服务的时代,除了狭义上的算力,还包括存储的存力、网络的传输能力、算法的能力等等。
算力的单位通常采用FLOPS(FloatingPointOperationsPerSecond)表示每秒钟能够完成的浮点运算或指令数
例如一台计算机每秒钟可以完成10亿次浮点运算,那么它的FLOPS值就是1GFLOPS(1GigaFLOPS)信通院发布了《中国算力发展智算白皮书》,作为权威机构的材料,对如何衡量“基础算力”、“智能算力”和“超算算力”给出了明确的解释。
结论归纳:与智算中心或者AI相关(默认是FP16)、超算HPC(默认是FP64)、部分情况为了便于统计,会统一换算为FP32(目前见到的不多),通常都会备注清楚。

本文来自知之小站

 

报告已上传百度网盘群,限时15元即可入群及获得1年期更新

(如无法加入或其他事宜可联系zzxz_88@163.com)