来源 :安恒信息2023-09-07
近日，由“浙江大学-安恒信息前沿技术联合研究中心”完成的题为“DPMLBench: Holistic Evaluation of Differentially Private Machine Learning”的论文被国际顶级学术会议ACM CCS’23（ACM Conference on Computer and Communications Security）录用。该论文系统性地评价了差分隐私在机器学习中应用的能力。
ACM Conference on Computer and Communications Security(ACM CCS)在计算机安全领域有着广泛的影响力，与IEEE S P、Usenix Security和NDSS并称安全领域国际四大顶级会议，同时也是CCF推荐A类会议，论文录取率常年在20%以下。CCS也是业界顶尖公司与技术专家展示技术成果和交流的重要平台。2023年CCS将于11月26-30日期间在丹麦的哥本哈根举办。
随着数字经济的发展，数据流通使用过程中数据的安全保障变得及其重要。差分隐私（DP）是一种通过在计算之前向数据添加经过精确校准的噪声，实现保护数据集中个体数据的隐私保护技术。
“
“DPMLBench: Holistic Evaluation of Differentially Private Machine Learning”（ https://arxiv.org/pdf/2305.05900.pdf）
本论文由杭州安恒信息、浙江大学、斯坦福大学和亥姆霍兹信息安全中心联合完成。将差分隐私技术应用于机器学习场景中后，可以通过降低机器学习训练与推理过程中隐私信息的泄露，达到保护模型训练数据的安全与隐私保护的目的。
将差分隐私技术与机器学习技术融合的过程中，其中一个重要的考虑因素是隐私和模型可用性之间的平衡。添加过多的噪声可能会导致模型准确性显著降低，而添加过少的噪声可能无法提供足够的隐私保证。为了在保护隐私的前提下尽可能少的损失性能，许多研究人员积极探索新技术和算法，以平衡隐私和模型性能。但是，这些研究是孤立的，不能准确的衡量算法改进在不同条件下的性能。更重要的是，缺乏全面的研究来比较这些差分隐私机器学习（Differential Privacy Machine Learning, DPML）算法的改进在可用性、防御能力和通用性方面的表现。
差分隐私机器学习算法的系统性测试评估
本论文首先依据机器学习训练流程针对DPML算法提出了一种分类方法，从而为细致分析不同类别的算法提供了便利。其次对先进的DPML算法的模型性能和对成员推理攻击的防御能力进行了大量的实验测量，得出了众多有利于业界后续研究的结论。同时本论文还提出并实现了一个模块化可重复使用的测试平台，DPMLBench，能够方便地使用和扩展差分隐私算法，方便隐私数据所有者可以轻松部署差分隐私算法，也可以作为相关领域用户的评估工具。
安恒信息致力于研究前沿技术，并将其无缝融入产品，推动创新与实用的完美结合。安恒信息拥有业内少有的完备的数据安全产品体系，涵盖咨询规划服务、数据中心的数据安全管控、办公网数据安全、隐私计算、零信任等。安恒信息将由差分隐私技术保护的机器学习能力应用于数据安全产品中取得多项突破性进展，在保证数据安全的前提下，提升了产品效率、准确度、自动化程度等指标，得到多家国内外咨询机构的认可。
例如，在隐私计算领域，安恒隐私计算平台为多方联合建模的应用场景提供了由差分隐私技术保护的机器学习能力，为用户提供了兼顾安全和效率的联合建模平台。安恒隐私计算平台在政务公共数据授权运营领域，在深圳、浙江温州等地取得国内领先的落地进展，帮助客户实现可用不可见，解决业务难题。在数据安全领域，用户数据常在云上完成机器学习训练，云上系统的数据安全至关重要，结合差分隐私技术可以保护云上训练数据的安全性。同时，安恒信息是国内独家做到了云上环境的无代理审计的厂商，标志着安恒数据库审计产品对于云环境的适应能力和兼容能力实现了质的提升。
凭借全生命周期、全链路数据安全的覆盖能力，公司形成了较强的核心竞争力，打造了“安恒数盾”品牌。安恒数盾数据安全解决方案以CAPE能力模型为核心思想，围绕让数据自由、安全流通为目标，整体协同各项数据安全能力，对数据资源合理使用提供全场景、全链路、全生命周期的感知保护，最终建立“数据安全运营”的全过程自适应安全支撑能力，直至达到整体智治的安全目标。激活数据潜能，释放数据价值！
2021年8月，浙江大学-安恒信息前言技术联合研究中心在浙江大学正式成立。中心依托浙江大学雄厚的科研实力和安恒信息丰富的行业实践，聚焦于大数据安全、云安全、物联网安全、AI安全等前沿技术，在机器学习与差分隐私、安全多方隐私计算、可信执行环境等多个方向实现技术突破，多篇隐私计算相关论文被安全四大顶级会议CCS、NDSS等接收，形成对学术界与产业界的引领性影响力，并将科研成果转化为国家安全力量，共筑网络安全防线，助力安全中国。
更多资讯
随着互联网技术的快速发展，数据在我们日常生活中扮演着越来越重要的角色。与数据相关的数据安全、数据资产化、数据交易等问题也愈发受到国家和社会的关注。3月7日，国务院提出组建国家数据局，进一步推动数字中国、数字经济建设。
在此背景下，由安恒信息董事长范渊和安恒信息CTO刘博主编，多位领域权威专家合作编写的《数据安全与隐私计算》应运而生。书中，作者们结合多年在数据安全领域实践积累的经验，对数据安全和隐私计算进行了深入探讨，并介绍了数据安全和隐私保护的最新动态和实用技巧。