当前，生成式人工智能(GenAl)技术正在加速渗透到各行各业，大模型的爆发式发展给产业、科研、商业乃至个人生活领域都带来巨大的创新空间。从网络安全的视角看，大模型的广泛应用一方面在IT基础架构、应用和网络等层面增加了新的安全风险；同时，也能显著赋能安全体系，提升安全检测、分析、响应的效率和效果，推动网络安全产业正式进入Al时代。
1.1全球大模型市场快速发展
在全球，大模型与智能体应用部署正在显著加速。大模型相关业态涉及基础模型训练、数据服务、智能体应用开发、一体化服务等多个环节。伴随大模型市场的迅猛发展，众多科技巨头和初创企业都持续加大在大模型相关领域的资金人才投入，并竞相推出突破性的模型和智能体产品。
中国的大模型市场与全球齐头并进，呈现出加速繁荣的景象，大量最终用户正在加快部署大模型相关应用。IDC调研显示，2024年，已有33%的中国企业落地了GenAI应用服务。其中，18%的受访企业计划增加新一轮投入，有25%的企业正在投资建设GenAI应用，中国GenAl市场迎来高速增长期。IDC数据显示，2024年GenAI软件市场规模约48.9亿元人民币。预计到2028年，这一数字将增长至接近500亿的规模，五年复合增长率达到92.5%。
1.2大模型与网络安全结合带来新挑战和新机遇
大模型与智能体在获得广泛应用的同时，其自身也面临着严峻的安全形势：
·2025年1月7日，国产大模型DeepSeek遭受大规模DDoS攻击，引发服务终端紧急响应机
制，最终官网瘫痪48小时。
·2025年1月30日，云安全公司Wiz Research发现DeepSeek的ClickHouse数据库因配置错
误，导致敏感数据可被未授权访问。
·2025年2月3日，攻击者在PyPI平台上传恶意Python包，伪装成合法依赖包。用户安装后触
发恶意代码。
● 2025年2月9日，OmniGPT平台的敏感数据被攻击者窃取，并在暗网公开售卖。
·2025年3月19日，用户通过提示词突破Manus模型的安全防护获取其内部架构目录文件，导
致系统提示词、部署路径等核心信息泄露。
除大模型自身面临的安全威胁外，持续发展的攻防态势，也让大量的攻击者和网络黑灰产试图利用大模型实施自动化的网络攻击。例如借助大模型提供更具威胁的攻击策略，批量生成复杂的恶意代码，发送更具迷惑性的钓鱼邮件等，进而形成更大的攻击范围、更隐蔽的攻击手段和更高的成功率。
此外，大模型与业务能力的融合加剧了企业IT架构的复杂程度，也进一步增加了安全风险。
●向量数据处理压力：特别是海量AI异构数据的产生和处理，给IT架构带来了巨大压力。
●混合架构问题：新的GPU/TPU集群、高性能网络等，形成集群和单机层面的混合部署架构，
增加防护难度。
●多云环境问题：跨云连接时的架构、接口、管理方式差异，可能导致数据迁移、应用部署和
统一管理面临更大困难。
在大模型增加企业核心数据泄露、业务失控以及声誉损害等风险的同时，大模型强大的感知、生成、理解和决策能力，也使其能够在网络安全领域发挥巨大的赋能作用，特别是面对当前愈发复杂的攻击行为，安全大模型具备可预见的广阔应用空间：
本文来自知之小站
报告已上传知识星球，微信扫码加入立享4万+深度报告下载及1年更新。3天内不满意退出星球款项原路退回，欢迎试用。到期续费仅需5折
（如无法加入或其他事宜可联系zzxz_88@163.com）
