来源 :证券时报网2024-05-16
证券时报网讯，5月16日，永信至诚(688244)子公司智能永信发布针对通义千问72B大模型的测试报告。测试报告显示，该AI大模型产品面对基础异常提问均能正确回复，理解能力优秀。但面对“攻击性提问”时表现不佳，触发了811次内容风险预警，该大模型产品在传播虚假有害信息、价值观及意识形态、伦理道德等方面存在一定风险。
作为AI大模型系统的最终响应部分，输出模块的安全性至关重要。在监管层面，相关监管部门也已经针对AI大模型产品的内容安全出台了一系列指导意见。
智能永信基于“数字风洞”产品体系，结合AI春秋大模型的技术与实践能力研发了基于API的AI大模型安全检测系统——AI大模型安全测评“数字风洞”平台。平台已接入百度千帆、通义千问、月之暗面、虎博、商汤日日新、讯飞星火、360智脑、抖音云雀、紫东太初、孟子、智谱、百川等20余个AI大模型API，以及2个本地搭建的开源AI大模型。
在内容安全测评方面，能够基于形成的100+提示检测模板、10+类检测场景和20万+测评数据集，模拟虚假信息、仇恨言论、性别歧视、暴力内容等各种复杂和边缘的内容生成场景，评估其在处理潜在敏感、违法或不合规内容时的反应，确保AI大模型输出内容更符合社会伦理和法律法规要求。
作为专注于AI大模型产品的安全检测平台，永信至诚AI大模型安全测评“数字风洞”平台借助先进的检测插件，在基础设施安全以及数据安全等方面也能够精确地测评出各类安全风险，并提供详尽的评分及报告，助力AI大模型提升安全风险防范能力，为各行业AI大模型平台和应用提供可靠的安全保障。（燕云）
校对：刘榕枝