来源 :安恒信息2023-09-14
9月12日，在2023年第20届中国网络安全年会暨国家网络安全宣传周的网络安全协同治理分论坛上，安恒信息高级副总裁、安恒研究院院长王欣发表了主题演讲，分享了他对AI安全和网络安全未来发展的看法和愿景。
王欣首先指出，随着ChatGPT等大模型的普及和应用，人工智能技术正在改变我们的生活方式和工作方式。然而，随着AI技术的快速发展，安全问题也日益凸显。安全与AI，既是相互博弈，又在相互成就，“让AI更安全，让安全更智能”，成为安全从业者的时代使命。
数字化技术的发展加速了网络安全实战化的步伐，安全效果导向的需求愈发突出。与此同时，企业面临着愈加复杂且持续演变的网络安全威胁。传统的安全防御手段已经无法满足当前快速应对和应急响应的需求。另外，巨大的网络安全人才缺口也成为了企业安全运营的重大困扰。
安全垂域大模型的出现极大地缓解了安全专家不足的现状。据《2023网络安全产业人才发展报告》数据显示，超过30%的受访者认为AI可以在一定程度上替代网络安全人才，另有35. 7%的受访者认为AI技术将在未来五年内对网络安全人才产生自动监测和分析等辅助作用。
王欣进一步指出，当前网络安全产业都在研究AI大模型与安全的结合。安恒信息凭借16年的实战经验积累，形成了大量的细分领域安全知识数据，并将这些数据转化为平台级能力知识数据。经过七轮大规模的增量预训练和数十次微调，“恒脑”逐渐形成，实现了AI与安全的深度融合。在今年的成都大运会网络安保任务中，“恒脑”展现出了其价值，通过实战与技术的结合，成为了一个高效、实用、能够解决实际问题的安全大模型。
“大模型的下半场是智能体的大爆发。”王欣介绍到，恒脑·安全垂域大模型与安恒OpenSecurity能力中台的结合，实现了“聪明的大脑”与“勤快的手脚”的链接。未来，安恒信息将提供感知、决策、执行、反馈的智能一体化解决方案，智能体逐步成长为虚拟安全专家，作为未来的“靠谱的伙伴”与安全专家同行。
然而，尽管大模型在处理某些任务上具有很高的效率，但它也存在着许多安全风险。王欣提到了大模型在生成内容时产生的数据安全、知识产权以及道德与伦理等相关的合规需求。此外，大模型的恶意使用可能导致供应链漏洞、prompt注入等新的安全问题。另外，大模型及相关应用自身也可能存在意识形态渗透、内容幻觉等方面的安全需求。他特别强调，大模型甚至也存在着传统软件漏洞的安全风险。
针对这些问题，王欣表示解决AI大模型面临的安全风险是迫在眉睫的事情。他透露，安恒信息研究院卫兵实验室对国内外主流的几个通用大模型进行了详细的安全评测，均发现了许多的安全风险，从结果上看，国外的通用大模型的安全性整体要略高于国内通用大模型。
（分数越低，安全风险越高）
王欣认为，解决大模型自身安全问题，需要建设大模型的全生命周期安全解决方案，安恒信息已经通过全面分析AI大模型的存在的安全问题，从构建安全的供应链、建立训练数据集规范、使用公认可信的开源模型、代码审计及安全测试、部署安全设备以及法律合规等多个方面入手，推出了完善的AI安全解决方案，可以有效地帮助用户避免在使用AI大模型时面临的诸多安全风险。
据了解，本届论坛是由由国家互联网应急中心（CNCERT/CC）和福州市人民政府主办，汇聚了政府主管部门、科研院所、相关行业企业等国内网络安全领域的“政、产、学、研、用”各界代表，共同探讨网络安全技术交流、威胁治理、应急响应、漏洞治理、移动互联网安全治理等议题。本次论坛为国内网络安全领域的协同治理和交流合作提供了重要的平台，为推动我国网络安全事业的发展发挥了积极作用。