logo

企业动态 行业动态

反对种族歧视!IBM宣布:停用所有人脸识别技术

 2020-06-12 04:48:09  来源:  1052次

IBM的CEO Arvind Krishna 在6月8日时,发表声明宣布IBM将退出面部识别业务。同时呼吁美国国会颁布改革措施,以推进种族公正、反对系统化的种族歧视。

图片


 他在信中写道,IBM坚决反对也不会容忍使用任何面部识别技术,包括其他供应商提供用于大规模监视、侵犯基本人权和自由,以及所有与我们价值观、信任、透明度原则的目的不符的面部识别方案。

随着人工智能水平的逐步提升,在过去的十几年里面部识别的软件得到了很大的改进。但是由于面部识别软件等技术由私营公司提供,没有任何联邦政府的监管,这项技术已被证实在种族、年龄和族裔方面存在偏见。

这可能使得本来被政府用于执法的面部识别软件,在安全和执法方面变得不可靠,并且很可能成为侵犯公民权利的工具。

值得一提的是,2018年IBM公司曾发布了一项减少偏见的面部训练公共模型,但令人意想不到的是,这些照片在随后被发现,有100万张都是未经授权拍的Flicker照片。

与此同时,黑人乔治弗洛伊德窒息死亡一事,也让美国社会开始反思,美国警察执法存在的问题。而警察执法中最被人诟病的就是人脸识别技术。显而易见,人脸识别再一次沦为了众矢之的。

不过,IBM CEO也肯定了AI的作用。他表示,人工智能依然是帮助政府执法部门保护公民安全的有力工具。

但Arvind Krishna也强调,AI 系统的供应商有责任确保对AI进行偏见测试,尤其是在执法过程中,确保此类测试进行相关审计和报告。

除此之外,他还强调称,美国政府应该鼓励使用特定技术来提高警务透明度和问责机制,比如人体摄像机和现代数据分析技术。

总体来说,IBM CEO的这封信是一个议政属性比较强的信件,他不仅谈了对相关AI技术的措施和态度。还呼吁国会推动人员就业的问题。

而IBM果断放弃人脸识别也是有其政治因素。根据外媒报道,IBM做出这个决定是经过了几个月的讨论,并与许多客户进行沟通交流,并不是心血来潮的结果。IBM公司同时表示,虽然公司不再推广、更新和宣传这类产品,但它依然会为现有的客户提供支持

据了解,人脸识别业务在IBM营收中的占比并不大,但IBM公司的人脸识别业务是为政府服务,退出这项业务也引起了外界的关注。据业内人士透露,过去几周里,IBM公司听到了许多支持者对使用人脸识别技术的担忧。

无独有偶,批判面部识别技术的不仅是IBM公司,还有许多家公司对该技术提出质疑,称面部识别技术表现了种族和性别的偏见。

2019年在亚马逊的股东投票中,有24%的股东对于面部识别技术侵犯国民的公民权和隐私权表示担忧,他们认为应该禁止面部识别技术出售给政府机构。