谷歌发布实验性TensorFlow模 用于测试AI模型的隐私性
谷歌今天发布了TensorFlow Privacy的实验模块,该模块是其保留隐私的TensorFlow工具包,可用于评估各种机器学习分类器的隐私属性。该公司表示,它将成为隐私测试套件的基础,该套件可被任何AI??开发人员使用,无论其技术水平如何。
各种AI隐私技术的优点仍然是社区内讨论的话题。没有规范的准则可以生成私有模型,但是越来越多的研究表明,AI模型可能会泄漏训练数据集的敏感信息,从而产生隐私风险。TensorFlow隐私偏爱的缓解方法是差异隐私,这会增加噪音以隐藏训练数据中的单个示例。但是,这种噪声是为学术上最坏的情况而设计的,并且会严重影响模型的准确性。
这促使Google的研究人员在会员推断攻击中寻求替代方案。新的TensorFlow Privacy模块支持的成员资格推断攻击方法可构建分类器,以推断训练数据集中是否存在特定样本。分类器越准确,存在的记忆就越多,因此模型的隐私保护就越少-直觉是,以高精度进行预测的攻击者将成功确定训练集中使用了哪些数据。
新模块提供的测试是黑盒子,这意味着它们仅使用模型的输出,而不是内部(权重)或输入样本。他们产生一个漏洞评分,该评分确定模型是否从培训集中泄漏了信息,并且不需要任何重新培训,因此相对易于执行。
“在内部使用成员身份推断测试后,我们将与开发人员共享它们,以帮助他们构建更多的私有模型,探索更好的架构选择,使用正则化技术(如提早停止,退出,权重衰减和输入增加),或收集更多数据, ” Google Brain的Shuang Song和Google软件工程师David Marn在TensorFlow博客上的帖子中写道。“最终,这些测试可以帮助开发人员社区确定更多结合了隐私设计原则和数据处理选择的体系结构。”
谷歌表示,未来,它将探索将会员推理攻击扩展到分类器之外的可行性,并开发新的测试。它还计划通过将其与TensorFlow Extended(TFX)集成在一起,探索将新测试添加到TensorFlow生态系统,TFX是用于部署生产机器学习管道的端到端平台。
据相关报道,谷歌今天增加了对围棋和Java支持的基础性差隐私库它去年夏天开源。它还提供了Privacy on Beam,这是一种基于Apache Beam(模型和特定于语言的SDK的集合)构建的端到端差异隐私解决方案,该解决方案依赖于差异隐私库中的较低层构建块并将其组合为一个“开箱即用”的解决方案,它照顾了差异隐私所必需的步骤。此外,Google推出了新的隐私权损失分配跟踪隐私预算的工具,开发人员可以使用该工具来估算差异性私有查询集合对用户隐私的总成本,并更好地评估其管道的总体影响。
免责声明:新闻资讯来源于合作媒体等,不代表本网观点,仅供参考,并不构成投资建议,风险自担。如涉版权,联系处理。
- 慧博科技:一文读懂2024零售数字化最新趋势,
- 三年累计赔付近50万件沪惠保守"沪”在身边
- 展望游戏行业2024:AI进入新阶段小游戏发展迅
- 游戏行业2024新品供应拉开序幕市场有何期待?
- A股游戏板块回暖明显三大利好提振市场信心
- 《征战,中国稀土Ⅱ》吴海明:"把脉”中国稀土
- 赋能金融客户全链营销,「营销科学AIA」助力证
- 西安温州商会第八届理事会就职庆典大会在西安
- 高能环境科研成果荣获2023年度环境保护科学技
- 全国首个城中村微型消防站建设管理标准获批立
- 以“大党建”培根以“大思政”铸魂打造研究生
- 数智化办学定位内涵与提升思想政治教学质量
- 美素佳儿AIGC有声绘本,用妈妈的声音陪伴孩子成
- 忧遁宝旗下忧遁草海参肽牡蛎肽阿胶肽上线上市
- "投资东南亚国家的机遇与挑战”圆桌会议在北京
- 邓明道给散户的一些建议
- 巨湾技研携手亿航智能研发全球首个eVTOL航空器
- 诚意巨献!周六福二十周年故事大片《不止远方
- 惠民生、暖民心中国人寿财险天津市分公司奋力
- 君品谈|林毅夫:君子和而不同
- 国通星驿数字商业战略重磅发布携手生态合作伙
- 保费不变,保障再升级!2024版"沪惠保”正式上
- 数字化共赢:蚂蚁数科携手华润啤酒,打造白酒
- 酿造匠心,传承经典:华润啤酒三十年品牌之路
- A股春风送暖公募积极分红工银瑞信多措并举持续
- 德施曼智能锁,走向AI+大时代——2024德施曼全
- 金沙酒业春糖盛典:三大论坛领航白酒新思考
- 百度教育行业AIGC营销解决方案全新升级,为客
- 家用中央空调好不好?看完约克VRF中央空调就知
- AI财富风暴来袭,泼天富贵如何接?
- 中央空调哪个好?约克中央空调YES-will系列给
- 约克VRF详解——春季装修黄金期一定要选这样的
- 华润啤酒2023年业绩斐然,啤白双赋能助力共成
- 啤酒故事,从"醴”开始:华润啤酒述说中国酿造
- 38大促外呼接通率56%,GMV增长近300%,慧博科
- 连续三年双位数增长,舍得酒业70亿营收之后,
- 企业经营,可以靠这款新型"财神”
- 华润紫竹药业毓婷品牌:春日心动之旅,"毓见”
- 超快充电池出货量第一,巨湾技研出席中国电动汽
- 围绕百度文心大模型提速智能创新,小度多款产品
- 昆仑健康保险上海分公司积极开展"3·15金融消
- 微拉美学术江湖——造星计划,助力医美行业高
- 百年公交化身"消保专车”招行信用卡打造消保知
- 组团上车游百度,爱采购财富游学团助推中小企业
- "绿色+科技”天加为社会经济高质量发展"蓄势赋
- 小度首届全屋智能服务商大会落幕,推出"菁英服