美国议员提出法案:科技公司应主动消除算法偏见-冯金伟博客园

  新浪科技讯,北京时间 4 月 11 日早间消息,据路透社报道,美国国会议员本周三提出一项法案,要求主要科技公司检测并消除其计算机模型中的任何歧视性偏见。此举突显出华盛顿对硅谷的监管兴趣正在日益增长。

  这项名为《2019 年算法问责法》(Algorithmic Accountability Act of 2019)的法案将赋予美国联邦贸易委员会(FTC)新的权力,并迫使企业研究审查在自己的技术中,是否存在种族、性别或其它方面的偏见。这些规则将适用于年收入超过 5000 万美元的公司,以及拥有超过 100 万消费者数据的数据代理商和企业。

  民主党参议员罗恩·怀登(Ron Wyden)在一份宣布该法案的新闻稿中指出:“电脑正在越来越多地参与到影响美国人生活的最重要决策中——不管人们是要买房子、找工作,甚至要进监狱。但是,这些算法往往依赖、而不是消除有偏见的假设或数据,这些假设或数据实际上将加强对妇女和有色人种的歧视。”

  新闻稿引用了路透社的一份报道称,亚马逊公司曾经弃用一款自动招聘引擎,因为有人发现该引擎对女性有偏见,与此同时,美国指控 Facebook 公司旗下的广告商涉嫌违反《公平住房法》(Fair Housing Act),发布种族歧视内容。

  参议员科里·布克(Cory Booker)和民主党众议员伊维特·克拉克(YvetteClarke)与怀登一起提出上述法案,此举可能将在共和党控制的参议院面临一场艰苦的战斗。

  “把算法视为高于人类决策的标准,意味着自动化决策本质上不如人类更可信或更危险,而事实并非如此,”信息技术与创新基金会副总裁丹尼尔·卡斯特罗(Daniel Castro)指出,这是华盛顿一家非盈利组织,董事会成员包括一些高科技行业代表。

  卡斯特罗说:“这只会给人工智能的使用带来耻辱和阻碍,从而降低它对社会和经济的有益影响。”

  互联网协会(Internet Association)的成员包括亚马逊、Facebook、Alphabet 旗下的谷歌公司等顶尖企业,该组织没有立即置评。(斯眉)