来源 :C114通信网2023-08-04
网络空间是人类共同的精神家园,也是国家治理的重要领域。每年“清朗”专项行动都会更新监管重点,2023年重点聚焦9方面问题,主要包括从严整治自媒体乱象、打击网络水军操纵信息内容、规范重点流量环节网络传播秩序、优化营商网络环境、生活服务类平台信息内容整治、整治短视频信息内容导向不良问题、2023年暑期未成年人网络环境整治、网络戾气整治、2023年春节网络环境整治。旨在整治网络生态突出问题,打击各种形式的违法犯罪活动,维护社会安定,保护人民群众利益。
网络空间的安全治理需要各方通力配合,中国移动智慧家庭运营中心积极履行社会责任,构建贯众和盾内容安全防护系统,提供智能高效的内容安全防护解决方案,通过结合AI技术+审核策略,实现分场景业务管控,助力在短视频导向不良、网络戾气方面开展整治,面向社交平台、视频直播、短视频等多业务场景提供不良内容审核服务。
提升短视频治理能力,遏制不良内容传播
短视频已经成为广大网民获取信息、获取服务、互动交流、文化娱乐的重要载体,是重要的传播方式,但同时短视频平台内容导向不良问题严重,影响青少年健康成长,损害人民群众合法权益。从短视频内容来看,其主要包含视频、图片、文字、音频等形式,存在不良内容导向的场景主要包括短视频内容、评论、弹幕等。
中国移动贯众和盾内容安全防护系统通过结合图像处理、自然语言处理、OCR、人脸识别、音频理解等人工智能技术,针对短视频场景特点,不断优化审核策略和算法,及时识别短视频中的涉黄、暴恐、违禁、涉价值观等内容,并告警给业务侧,遏制不良导向内容传播,助力短视频行业健康发展。
AI赋能内容识别,助力网络暴力整治
网络暴力行为的存在不仅对受害人带来巨大的影响,同时也破坏了社会正常秩序,网络言论的公信力大幅降低。近几年,因网络暴力导致受害人抑郁、自杀的案例日益增多。贯众和盾内容安全防护系统,凭借在自然语言处理领域技术积累和能力提升,利用文本情感分析、文本句法/词法分析、社交网络分析和知识图谱、模型压缩等技术,辅助业务深入排查评论区、话题、圈子等网络戾气集中版块内容,对发布的违规内容进行快速识别和告警,满足线上检测的实时性要求,减少谩骂暴力言论的传播风险。
七大能力升级,全面护航“清朗”网络治理
中国移动贯众和盾内容安全防护系统已升级完善文本垃圾清理、图片检测过滤、视频违规定位、音频精准识别、文件综合防范、URL深层扫描、复合消息治理等七大核心能力,并在云网盘、即时通信、社交平台、短视频等场景进行应用。截至目前,已累计过滤消息超249亿条、累计拦截违规消息达1.8亿条。
中国移动智家中心将始终践行企业社会责任,持续优化升级能力建设,为客户提供高效、安全、便捷的内容审核服务,为打造“清朗”网络空间,维护幸福网上家园助力。