6G内生AI架构及AI大模型.pdf

6G需要一个统一的框架:以支持有效的AI性能验证和保障方法。

6G需要高效的数据采集和传输:以实现AI预验证、在线评估和优化的全自动闭环。

6G需要计算、数据、模型和连接的协同:以提供更低的延迟和有保障的QoS。

6G需要充分利用网络的人工智能相关资源:以感知网络状态,利用网络广泛分布的计算、数据、算法资源,提供高效的人工智能服务。

6G需要为AI服务提供QoS保障:以提供满足用户特定需求的AI服务。

6G需要保护数据隐私和安全数据:在提供可靠AI服务的同时,防止数据泄露。

传统网络中提供AI服务需要通信和计算协议之间频繁的交互与协调,需要设计一套通算融合的内生AI协议,实现对计算和通信的协同管控与承载,满足AI所需的连接和分布式计算服务、以及基于AI的连接和计算融合控制需求。

AI大模型训练通常在数据中心的多台服务器中,服务期间需要用高速率光纤连接,难以将AI大模型的训练过程部署到无线网络中。

从用户、网络中采集大量数据,数据的预处理和流量的调度,支撑AI大模型的训练。

6G网络承担数据采集、预处理等数据服务,节省网络中的数据传输,为云AI训练AI大模型提供更好的数据服务。

AI大模型需要哪些特殊的数据分析技术?数据处理功能分布式部署后网络中数据该如何合理调度?

AI大模型需要较大的储存空间和较强的Al推理芯片,单基站无法满足该需求。

在实现合理模型分割的前提下,可将大模型分布式的部署到无线网络中,提供AI推理服务。

在6G网络中分布式部署AI大模型,更靠近用户侧,可能在时延方面具有优势。

分布式部署导致推理时延增加和靠近用户侧传输时延减少该如何权衡?大模型分割、压缩、加速等技术是否可行;大模型分布式部署后节点之间数据如何合理调度?

本文来自知之小站

 

PDF报告已分享至知识星球,微信扫码加入查阅下载3万+精选资料,年享1万+精选更新

(星球内含更多未发布精选报告.其它事宜可联系zzxz_88@163.com)