Salesforce研究人员声称新方法减轻了AI模型的性别偏见
Salesforce和弗吉尼亚大学的研究人员提出了一种减轻字词嵌入中性别偏见的新方法,该词表示法用于训练AI模型以汇总,翻译语言以及执行其他预测任务。该团队表示,纠正某些规律性(如大数据集中的词频)可以使他们的方法在推理之前“纯化”嵌入内容,从而删除可能带有性别的词。
词嵌入捕获了词的语义和句法含义以及与其他词的关系,这就是为什么它们通常在自然语言处理中使用的原因。但是他们因继承性别偏见而受到批评,这种偏见将中性词的嵌入与特定性别联系起来。例如,虽然“辉煌”和“天才”在定义上不分性别,但它们的嵌入与“他”相关联,而“家庭主妇”和“缝纫”与“她”相关联更紧密。
先前的工作旨在通过后处理步骤从嵌入中减去与性别相关的成分,以减少性别偏见。但是,尽管这在某些情况下减轻了性别偏见,但其有效性受到限制,因为性别偏见仍然可以在去偏见后恢复。
Salesforce提出的替代方案-Double-Hard Debias-将嵌入空间转换为表面上无性别的空间。也就是说,它将单词嵌入转换为“子空间”,该子空间可用于找到对干扰了编码性别的频率信息进行编码的维度。然后,在执行另一次消除偏见的操作之前,它会沿此维度“投射”性别成分,以获取修改后的嵌入内容。
为了评估他们的方法,研究人员针对WinoBias数据集对其进行了测试,该数据集由赞成性别定型和反对性别定型的句子组成。(例如,“医生之所以聘请秘书是因为他对客户不堪重负”与“医生之所以聘请秘书是因为她对客户不堪重负。”)性能差距反映了算法系统如何在两个句子组上执行并导致“性别偏见”得分。
研究人员报告说,在保留语义信息的同时,Double-Hard Debias将使用GloVe算法获得的嵌入的偏差得分从15(两种类型的句子)降低到7.7。他们还声称,在旨在对嵌入进行建模的可视化(tSNE投影)上,以使相似的嵌入彼此聚在一起并且相异的嵌入分散开来,与其他方法相比,Double Hard Debias产生的嵌入混合更加均匀。
值得注意的是,一些专家认为无法从词嵌入中完全消除偏见。在慕尼黑工业大学最近的一项荟萃分析中,贡献者声称不存在自然产生的中性文本这样的“东西”,因为单词的语义内容始终与社会的社会政治环境联系在一起。
尽管如此,Salesforce和弗吉尼亚大学的团队认为,他们的技术可测量地减少嵌入中存在的性别偏见。
Double-Hard Debias论文的合著者写道:“我们发现单词频率统计信息的简单变化可能会对用来消除单词嵌入中性别偏见的去偏方法产生不良影响。”“ [我们的方法]减轻了词频功能可能对去偏置算法产生的负面影响。我们认为,提供公平且有用的词嵌入非常重要,我们希望这项工作能激发沿这个方向的进一步研究。”
免责声明:新闻资讯来源于合作媒体等,不代表本网观点,仅供参考,并不构成投资建议,风险自担。如涉版权,联系处理。
- 围绕百度文心大模型提速智能创新,小度多款产品
- 昆仑健康保险上海分公司积极开展"3·15金融消
- 微拉美学术江湖——造星计划,助力医美行业高
- 百年公交化身"消保专车”招行信用卡打造消保知
- 组团上车游百度,爱采购财富游学团助推中小企业
- "绿色+科技”天加为社会经济高质量发展"蓄势赋
- 小度首届全屋智能服务商大会落幕,推出"菁英服
- 慧博科技:一文读懂2024零售数字化最新趋势,
- 三年累计赔付近50万件沪惠保守"沪”在身边
- 展望游戏行业2024:AI进入新阶段小游戏发展迅
- 游戏行业2024新品供应拉开序幕市场有何期待?
- A股游戏板块回暖明显三大利好提振市场信心
- 《征战,中国稀土Ⅱ》吴海明:"把脉”中国稀土
- 赋能金融客户全链营销,「营销科学AIA」助力证
- 西安温州商会第八届理事会就职庆典大会在西安
- 高能环境科研成果荣获2023年度环境保护科学技
- 鸿蒙落地千行百业,金融成重要一环
- 冠蓝狮成立中国独立公司,深化对中国市场的长期
- 品牌心智霸屏、人群破圈、全场景提效!3大经营
- 小红书亮相2024TFWA亚太展览会,共谋免税行业
- 南北双大展圆满落幕,爱采购与中小企业共绘数
- 限时送票|爱采购继续携手央视频重磅推出全新
- 强化风险减量服务落地中国人寿财险组织开展国
- 巨湾技研携手亿航智能研发全球首个eVTOL航空器
- 诚意巨献!周六福二十周年故事大片《不止远方
- 惠民生、暖民心中国人寿财险天津市分公司奋力
- 君品谈|林毅夫:君子和而不同
- 国通星驿数字商业战略重磅发布携手生态合作伙
- 保费不变,保障再升级!2024版"沪惠保”正式上
- 数字化共赢:蚂蚁数科携手华润啤酒,打造白酒
- 酿造匠心,传承经典:华润啤酒三十年品牌之路
- A股春风送暖公募积极分红工银瑞信多措并举持续
- 德施曼智能锁,走向AI+大时代——2024德施曼全
- 金沙酒业春糖盛典:三大论坛领航白酒新思考
- 百度教育行业AIGC营销解决方案全新升级,为客
- 家用中央空调好不好?看完约克VRF中央空调就知
- AI财富风暴来袭,泼天富贵如何接?
- 中央空调哪个好?约克中央空调YES-will系列给
- 约克VRF详解——春季装修黄金期一定要选这样的
- 华润啤酒2023年业绩斐然,啤白双赋能助力共成
- 啤酒故事,从"醴”开始:华润啤酒述说中国酿造
- 38大促外呼接通率56%,GMV增长近300%,慧博科
- 连续三年双位数增长,舍得酒业70亿营收之后,
- 企业经营,可以靠这款新型"财神”
- 华润紫竹药业毓婷品牌:春日心动之旅,"毓见”
- 超快充电池出货量第一,巨湾技研出席中国电动汽