报告摘要：
“AI+安全”主要包括AI赋能网络安全、AI内生安全和AI衍生安全。大模型快速发展给人们带来便利的同时，其引发的网络安全问题也值得重点关注。以ChatGPT为代表的生成式人工智能技术在网络安全领域是一把“双刃剑”,一方面，AI可以赋能网络安全，提升风险检测与防护能力；另一方面，AI的滥用将对国家、社会、公众带来负面影响，同时，AI新技术的脆弱性也使得应用自身面临安全风险。
AI在赋能传统网安产品与提升网安运营效率方面展现出极大潜力。根据Statista预测，2023至2030年全球AI安全市场规模CAGR将达27.60%,2030年市场规模将飙升至1340亿美元。AI赋能传统安全产品主要包括威胁检测产品(恶意软件检测、攻击流量检测、用户和实体行为分析、以及加密流量分析)、数据安全和防火墙等；AI大模型在网络安全运营中的产业实践，尤其是在告警降噪、攻击研判、自动响应与处置方面，展现出了显著的优势和潜力，安全运营是安全行业最需要AI深度改造的环节。
AI内生安全构筑网安新赛道，AI大模型安全监测评估产品或迎发展先机。人工智能技术的崛起依托于AI模型、AI数据以及AI承载系统。1)AI模型安全：主要包含模型训练完整性威胁、模型测试完整性威胁和鲁棒性欠缺威胁等。2)AI数据与隐私安全性：主要包括模型窃取、隐私泄露和基于梯度更新的数据泄露等威胁。3)AI系统安全性问题：主要包括硬件设备安全和系统与软件安全，AI系统安全性问题与传统计算机安全领域中的安全问题类似，威胁着AI技术的完整性、保密性、可用性。
AI衍生安全问题加剧，AI监管势在必行，建议关注深度伪造视频、图像、文本等检测产品。人工智能衍生安全指人工智能系统因其自身脆弱性被利用而引起其他领域的问题，AI衍生安全影响AI的合规使用，还涉及人身安全、隐私保护等。AI衍生安全包括：人工智能系统失误引发的安全事故、大模型广泛应用带来的滥用风险和人工智能武器研发可能引发国际军备竞赛。各国针对AI滥用情况纷纷发布相关监管政策，我国发布《生成式人工智能服务管理暂行办法》和《人工智能生成合成内容标识办法》等办法，体现了风险防范、风险应对和风险管理的基本思路。
相关标的：亚信安全，永信至诚，国投智能，绿盟科技，天融信，启明星辰，深信服，安恒信息，奇安信，三六零
风险提示：人工智能、网络安全和AI安全行业发展不及预期。
1.AI快速崛起引发安全问题担忧
我国“十四五”规划纲要明确大力发展AI产业，培育AI等新兴数字产业。在党的二十大报告中，AI与生物技术、新能源、新材料、高端装备、绿色环保等行业一起被列为新的增长引擎。近年来，AI技术在通信、制造、金融、教育、医疗和交通等领域的深入应用，引领了新一轮科技革命和包括通信领域在内的产业变革浪潮。
AI技术的三大核心要素是算法、算力和数据。算法是AI的“大脑”,目前算法应用主要区分为决策式和生成式。前者是根据已有数据进行分析、判断、预测：后者是基于已有数据进行模仿式创作，生成全新的内容。被全球用户广泛应用的AI聊天机器人ChatGPT即采用了生成式超大规模预训练变换模型算法。算力是AI的“四肢”,是算法和数据的基础设施，AI算法模型对于算力的巨大需求，推动了今天芯片甚至算力产业的发展。数据是AI的“饲料”,AI算法需要通过海量数据的训练而不断完善。
“AI+安全”主要包括AI赋能网络安全、AI内生安全和AI衍生安全。ChatGPT等大模型快速发展给人们带来便利的同时，其引发的网络安全问题也是值得关注的重点。以ChatGPT为代表的生成式人工智能技术在网络安全领域是一把“双刃剑”,一方面，AI可以赋能网络安全，提升风险检测与防护能力；另一方面，AI的滥用将对国家、社会、公众带来负面影响，同时，AI新技术的脆弱性也使得应用自身面临安全风险。
2.AI赋能传统安全产品
2.1.AI赋能网安与传统网安的区别
在AI出现之前，传统的网络安全主要依赖于基于签名的检测系统。这些系统通过将传入的流量与已知威胁或恶意代码签名的数据库进行比较来工作。当找到匹配项时，系统会触发警报并采取行动来阻止或隔离威胁。虽然这种方法对已知威胁有效，但对新的和未知的威胁则不足够。
网络犯罪分子可以通过修改代码或创建数据库中尚未存在的恶意软件新变种来轻易绕过基于签名的检测系统。另外，基于签名的检测系统可能会产生大量的误报，因为如果合法流量恰好与已知威胁具有相似的特征，就可能被标记为恶意的。这导致安全分析师花费大量时间调查误报，这可能会消耗资源。
传统的网络安全也依赖于手动分析。安全分析师会手动调查安全警报和日志，寻找安全漏洞的模式或指标。这个过程耗时且通常依赖于安全分析师的专业知识来识别威胁。
基于规则的系统通过设置定义网络上可接受行为的规则或策略来工作。如果流量违反了这些规则，它会触发警报。虽然在某些情况下，基于规则的系统可能有效，但它们通常不够灵活，不能适应新的和正在出现的威胁。
在AI被引入之前，对网络安全的传统方法主要是反应性的，依赖于手动分析、基于签名的检测系统和基于规则的系统。这种方法对新的和未知的威胁往往无效，而且可能会产生大量的误报，这可能会消耗资源。
AI在网络安全中的应用与传统方法的区别。传统的网络安全方法重度依赖于只对已知威胁有效的基于签名的检测系统。这意味着新的和未知的威胁可能会被忽视。相比之下，基于AI的解决方案使用机器学习算法，可以实时检测和应对已知和未知的威胁。
本文来自知之小站
PDF完整报告已分享至知识星球，微信扫码加入立享4万+最新精选报告
（星球内含更多专属精选报告.其它事宜可联系zzxz_88@163.com）
