近日,“ChatGPT之父”、OpenAI CEO Sam Altman在英国剑桥参加活动时,遭到了反AI活动的激进分子强烈抵制,在大礼堂里当面被“砸场子”,少数抗议者甚至要求停止AI竞赛。据了解,反AI活动激进分子之所以会如此抵制AI技术发展,一方面是其代替了相关工作人员的工作内容,另一方面则是该技术降低了网络黑客门槛,让网络数据安全陷入到更加危险的处境之中。有企业表示,ChatGPT技术太过强大,即使安排员工进行安全监控,依旧无法阻止敏感信息被盗取,现在已对网络安全问题深感无力。
ChatGPT是OpenAI研发的聊天机器人程序,其背后的算法基于Transformer架构,使用自注意力机制处理输入数据的深度神经网络,Transformer架构广泛应用于语言翻译、文本摘要、问答等自然语言处理任务。ChatGPT使用了GPT-3.5大规模语言模型,并在该模型的基础上引入强化学习来微调(FINE-turn)预训练的语言模型。这里的强化学习采用的是RLHF,即采用人工标注的方式。目的是通过其奖励惩罚机制(reward)让LLM模型学会理解各种NLP任务并学会判断什么样的答案是优质的。
ChatGPT技术的发展,极快带动了各行业的智能化提速,但带来的安全风险正在引发新的担忧。ChatGPT可以帮助网络犯罪集团更便捷、更快速地生成攻击工具、混淆攻击代码等,针对性地构造未知、高级的攻击,降低了网络犯罪门槛,加剧了企业数据遭遇外部攻击的风险。但从另一方面来看,ChatGPT也可以和安全领域的众多场景结合起来,提升安全防护能力及运营效率。
当攻防对抗持续升级,以智能对抗智能,才是未来的发展方向。深信服基于“大模型算法+威胁情报+安全知识”训练,自研出安全垂直领域的大模型“安全GPT”,未来将持续赋能安全产品和服务。经5000万样本数据测试,相较传统检测引擎,赋能安全GPT技术的深信服XDR对攻击绕过手法的检测率高达95.7%,误报率(安全告警里判错的比例)仅4.3%,大幅提升对高级威胁的监控检测能力。
在复杂攻击成为新常态的背景下,深信服以GPT技术构筑安全建设全新范式,在更精准监控、检测、防御高级威胁的同时,为安全运营工作降本增效,让更多行业企业走在安全的发展道路上。