亚马逊人脸识别误判28名国会议员为罪犯
极客时间编辑部
讲述：杜力大小：1.10M时长：02:25
最近，在美国公民自由联盟 ACLU 的一次测试中，他们使用亚马逊的 Rekognition 人脸识别工具，扫描了全部 535 名美国国会议员的照片，并将它们与 25000 张警方公开的罪犯面部照片进行了比对。
在测试时，ACLU 使用这些罪犯的照片，构建了一个面部照片数据库和搜索工具。然后，他们搜索了这个数据库，与所有现任参众两院议员的公开照片进行了比对。
结果，系统错误地将 28 名国会议员的照片与罪犯面部照片进行了配对。也就是说，亚马逊的人脸识别工具认为，在 535 名国会议员中，有 28 名议员是罪犯。
在被错误匹配的议员中，有色人种的比例显著过高（11 人），仅国会黑人同盟（Congressional Black Caucus）就有 6 名成员被误判，对于皮肤较黑的人来说，人脸识别通常不太准确。虽然对于整个国会来说，错误率是 5.2%，但对于非白人的国会议员，错误率达到 39%。
在这之前，亚马逊就积极地将其面部识别技术卖给执法部门，在美国，警方已经开始使用该软件来寻找走失的儿童和被拐卖的人口。该产品遭到了亚马逊用户、民间组织、股东甚至亚马逊员工在内超过 15 万人的联名抗议。
ACLU 希望这个结果可以促使国会加入抵制行列，呼吁执法部门停止使用亚马逊人脸识别系统。
但是亚马逊方面回应，其软件的设计本意是辅助人类工作，造成误判的原因是 ACLU 在实验中使用了错误的设置，将识别阈值定为 80%，然而，一般在警方工作中建议的阈值不低于 99%。
鉴于 ACLU 并没有公开其实验设置的细节，亚马逊自己做了一个测试。他们使用 85 万张学界通用的人脸和所有美国国会议员的图片，将识别阈值调到 99% 以后，误判率为 0%。
亚马逊发言人表示，对于热狗、椅子、动物或其他社交媒体用例中的照片来说，80% 的置信度是可以接受的阈值，但是对于识别具有合理程度确定性的个人来说，这并不合适。他表示，“当我们在执法活动中使用人脸识别时，我们会引导客户设置一个 95% 或更高的阈值。”
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线笔记
复制
AI
- 深入了解
- 翻译
- 解释
- 总结
该免费文章来自《极客视点》，如需阅读全部文章，
请先领取课程
请先领取课程
免费领取
© 版权归极客邦科技所有，未经许可不得传播售卖。 页面已增加防盗追踪，如有侵权极客邦将依法追究其法律责任。
登录 后留言
精选留言
由作者筛选后的优质留言将会公开显示，欢迎踊跃留言。
收起评论