当前位置:滚动 > 正文

不公平的人工智能系统会导致无辜的人被逮捕

2022-11-01 09:22:52  来源:金融界

人工智能系统已经广泛存在于我们的日常生活中,但我们可能需要几个月、甚至数年的时间才能弄清楚它们是否存在偏见,以及是什么样的偏见。

这带来了不小的风险:不公平的人工智能系统会导致无辜的人被逮捕,甚至是剥夺他们的住房、工作和基本服务。

最近,一群人工智能和机器学习专家正在发起一场新的偏见赏金挑战赛,他们希望这项活动可以让人们更快地发现偏见。

这项赏金挑战的灵感来自于网络安全领域的漏洞悬赏,它呼吁参与者创建工具来识别和减轻人工智能模型中的算法偏见。

这场赏金挑战是由一群志愿者组织的,他们在、Splunk 和 Reality Defender 等科技公司工作,他们自称为“偏见海盗”。

第一个赏金挑战集中在图像检测中的偏见。这是一个常见的问题:有缺陷的图像检测系统偶尔会将黑人误认成猩猩。

参与者将面临的挑战是要建立一个机器学习模型,该模型可以标记每张图像的肤色、性别和年龄组,这将使其更容易量化和捕捉数据集中的偏见。

他们将使用大约 1.5 万张合成的人脸图像作为比赛用数据集。

参与者将根据模型标记图像的准确性、代码运行时间以及其他指标进行排名,挑战赛将于 2022 年 11 月 30 日结束。

和初创公司 承诺为冠军提供 6000 美元奖金,亚军和季军也将分别获得 4000 美元和 2000 美元。已经为第一批参赛者提供了价值 5000 美元的算力支持。

这场挑战赛代表了人工智能领域的一个新兴行业:算法偏见审计。

在 2021 年推出了第一个人工智能偏见悬赏,斯坦福大学刚刚结束了其第一个人工智能审计挑战。与此同时,非营利组织 Mozilla 也在为人工智能审计师创造工具。

这些审计工作很可能会变得越来越普遍。它们被监管机构和人工智能伦理专家称赞为“让人工智能系统承担责任”的好方法,而且它们也将成为国家或地区的法律要求。

欧盟新出台的内容审核法《数字服务法》,包括对大型技术平台使用的数据和算法进行年度审计,而欧盟另一项即将出台的人工智能法案也可能允许当局对人工智能系统进行审计。

美国国家标准与技术研究所(National Institute of Standards and Technology,NIST)也推荐将人工智能审计作为一项黄金标准。

在布鲁金斯学会研究人工智能治理的亚历克斯·恩格勒(Alex Engler)表示,我们的想法是,这些审计工作将像我们在其他高风险行业看到的审计一样行事,比如在化工和建筑行业。

算法审计专家黛博拉·拉吉(Deborah Raji)在一篇发表于 2021 年 6 月的论文中表示,目前的问题是没有足够的独立承包商来满足即将到来的算法审计需求,企业也不愿向第三方开放自己的系统。

这就是这些赏金挑战想要塑造的东西。人工智能社区寄希望于,这些活动能够引导更多的工程师、研究人员和专家来发展所需的审计技能并积累经验。

到目前为止,对人工智能的有限审计努力要么来自学者,要么来自科技公司本身。这类挑战赛的目的是创建一个专门审计人工智能的新领域。

“我们正试图给对这种工作感兴趣的人创建一个新空间,有的人想从零开始,也有人已经非常有经验但不想在科技公司工作,”鲁曼·乔杜里()说,她在负责机器学习的道德、透明度和问责方面的工作,也是“偏见海盗”的领导者。

她说,这些人可能包括想要学习一种新技能的黑客和数据科学家。“偏见海盗”团队希望这项挑战赛能开创此类比赛的先河。

非营利性人工智能研究实验室的负责人萨拉·胡克()说,这样的挑战赛不仅创造了机器学习社区进行算法审计的动机,而且促进了“最好的审计方法,以及应该投资哪种类型的审计”的发展。

蒙特利尔人工智能伦理研究所的创始人阿比谢克·古普塔()说,“我们对系统的关注越多,我们就越有可能发现存在缺陷的地方。”

关键词: 对不公平型AI说不 Twitter联合发起AI偏见赏金挑战赛 AI偏见赏金挑战赛 AI偏见赏金

推荐阅读

不公平的人工智能系统会导致无辜的人被逮捕

人工智能系统已经广泛存在于我们的日常生活中,但我们可能需要几个月、甚至数年的时间才能弄清楚它们是否存在偏见,以及是什么样的偏见。这 【详细】

CB Insights 发布了第五届全球金融科技 250 强榜单

从保险科技、数字银行、加密货币到财富管理, Fintech 250 榜单(全球金融科技企业 250 强)致力于在全球范围内寻找 250 家最具发展前 【详细】

亚历克斯·汉娜:谷歌不仅仅是一个科技组织

我辞职是因为我累了,亚历克斯·汉娜()在 2 月 2 日写道,这是她在谷歌人工智能(AI)伦理团队的最后一天。她认为,谷歌以及整个科技行业 【详细】

Meta周四暴跌25% 第三季度财报业绩不及市场预期

10月28日消息,去年年初,Facebook母公司Meta市值突破1万亿美元,进入万亿美元市值俱乐部。然而短短一年时间里,该公司市值蒸发了7300多亿 【详细】

运营利润25亿美元同比下滑49% 亚马逊Q3营收1271亿美元

10月28日消息,当地时间周四美国电商亚马逊公布2022年第三季度财报。财报显示,第三季度亚马逊营收1271亿美元,同比增长15%,而分析师平均 【详细】

关于我们  |  联系方式  |  免责条款  |  招聘信息  |  广告服务  |  帮助中心

联系我们:85 572 98@qq.com备案号:粤ICP备18023326号-40

科技新闻网 版权所有