围绕AI存在许多困惑和炒作。如今，科技行业的几乎每一项服务、产品或领域都被贴上了AI的标签。其中许多确实是合理的，毫无疑问，AI正在为各行各业带来新的能力和更高的生产力。
然而，在太多情况下，与Al的关联可能是牵强的，甚至在最糟糕的情况下完全具有误导性。本文对AI及其相关硬件选项进行了分类，特别聚焦于设备端(即边缘)Al,为读者提供了实用的背景知识，帮助大家更好地理解聚焦Al的新一波热潮(有时是炒作)。
你所说的AI是什么意思?
虽然在半导体行业中，AI这个词还处于相对初期的阶段，但这项技术已经足够先进，对其进行细分是有帮助的。理解一些基本的AI概念包括：
云端AI:当计算发生在设备之外的数据中心或远程桌面时。前沿的AI算法(有时称为基础模型)通常首先在云端诞生，且云端依然托管着最复杂的Al应用，即最准确和高性能的生成式AI工具。这些应用通常涉及高度复杂性，并且对计算资源的需求超出了单一设备或个人电脑所能提供的范围。
边缘AI:当Al算法在云端环境中被证明是可行的，它们通常会进入一个优化阶段，这个阶段旨在减少算法的计算需求，同时保持可接受的准确性水平。这一阶段的结果就是边缘Al:一种可以在资源受限(无论是功耗、内存还是成本方面)的设备上实际运行的算法，比如手机、汽车、无人机或相机。边缘Al的应用范围非常广泛，从高度优化的生成式Al或大型语言模型到用于计算机视觉的卷积神经网络(CNN),甚至是可以用来学习像手表电池消耗模式这样简单事物的小型网络。AI训练：是创建AI模型以满足特定用例的初始过程。几乎所有方法都涉及到构建大量“节点“形成复杂的矩阵关系(或网络),然后通过它传递大量的样本数据进行”训练”,例如，让模型处理100万张猫的图片，以便让它“学习“在这个模型中猫的样子。训练通常由数据科学家在云端环境中完成，而且往往涉及极其庞大的数据量和数据处理工作(例如，据报道ChatGPT-4的训练成本超过了1亿美元)。近年来，轻量级训练也可以在边缘进行，以支持私人设备上的Al。
本文来自知之小站
PDF完整报告已分享至知识星球，微信扫码加入立享4万+最新精选报告
（星球内含更多专属精选报告.其它事宜可联系zzxz_88@163.com）
