非裔美国人乔治·弗洛伊德（George Floyd）之死正在引发一系列的连锁反应。6月8日，IBM官网公布了首席执行官阿里德·克里希纳（Arvind Krishna）致美国国会的一封信，宣布不再提供通用的人脸识别或分析软件。另据外媒报道，IBM表示也不会再继续开发或者研究相关技术。

　　克里希纳在信中表示，乔治·弗洛伊德及多位非裔美国人的死亡提醒美国人，“与种族歧视的斗争一如既往得紧迫”。因此，IBM希望与国会合作，从技术使用、警察改革等关键领域着手，推动实现公平正义和种族平等。

　　“IBM不再提供通用的人脸识别或分析软件。IBM坚决反对并且绝不容忍将任何技术（包括其他供应商提供的人脸识别技术）用于大规模监视、种族歧视、侵犯基本人权和自由，或用于任何与我们的价值观、与我们的信任与透明度原则不符的目的。我们认为，现在是时候开始关于国内执法机构是否能使用，以及如何使用人脸识别技术的全国性讨论。”克里希纳写道。

　　他表示，人工智能是一种强大的工具，可以帮助执法机构保护民众的安全。但是，人工智能的供应商和用户负有共同的责任，即确保人工智能应用，尤其是执法机构的人工智能应用不存在歧视。有关歧视的测试结果应该被公开和审核。“最后，国家应该出台政策，鼓励和推动警方使用一些能提高执法透明度与可信性的技术，比如执法记录仪和现代的数据分析技术。”

　　据悉，多项研究显示，美国各大公司的人脸识别算法在面对黑人时均存在准确率低的问题。这也是人脸识别在美国一直饱受诟病的原因之一。

　　2018年，美国一个民间组织使用535位美国国会议员的照片测试了亚马逊的人脸识别系统，结果竟有28位国会议员被识别成罪犯。值得注意的是，这28人中有11人为有色人种，包括美国著名的民权领袖、众议员约翰·刘易斯（John Lewis）。由于亚马逊的人脸识别系统被美国执法机构广泛使用，这一测试结果加深了人们对算法歧视的担忧。“我们需要用技术来帮人们解决问题，而不是加重有色人种所面临的不公。黑人和棕色人种已经成为歧视性判决系统的受害者。”刘易斯在随后的一份声明中写道。

　　2019年底，美国国家标准技术研究院（National Institute of Standards and Technology，以下简称NIST）在调研了189种人脸识别算法后也发现，现有的人脸识别算法仍然无法排除种族、性别等因素的影响。

　　根据NIST的研究，在一对一的匹配中，大多数算法对亚裔和非裔美国人的误报率超过白人，不同算法的误报率差异从10倍到100倍不等；不同地区的算法也有差异，美国公司开发的一对一匹配算法对亚裔、非裔美国人和土著群体的误报率尤其高。而在一对多的匹配中，针对非裔美国女性的误报率普遍更高。研究人员指出，这可能会导致错误的犯罪指控。

　　事实上，IBM曾经试图解决“算法歧视”的问题，并在2018年发布了可用于人脸识别算法训练的公开数据集。但2019年，有网友发现该数据集抓取了近100万张来自图片社区Flickr的照片。这些照片被抓取主要是因为标记了知识共享许可协议（Creative Commons license）。IBM辩称数据集并非商用，但许多上传照片的用户以及被拍摄者认为不能在未经其同意的情况下将其数据用于训练。今年初，一些伊利诺伊州用户以IBM侵犯隐私为由提起了诉讼。

　　据路透社、The Verge等媒体报道，IBM此前的人脸识别业务并未带来可观的营收。有知情人士在接受路透社采访时表示，IBM将不再以应用程序编程界面或任何其他形式开发、创造、研究或销售人脸识别产品，但会根据此前的客户有需要的情况下提供支持。该人士补充说，IBM将继续研究计算机视觉技术，但仅限于视觉对象检测，而不是用于人脸识别和分析。

　　5月25日，在美国明尼苏达州明尼阿波利斯鲍德霍恩社区，非裔美国人乔治·弗洛伊德被白人警察德里克·肖万（Derek Michael Chauvin）逮捕。肖万单膝跪在弗洛伊德脖颈处超过8分钟，弗洛伊德被跪压期间失去知觉并在急救室被宣告死亡。这一事件让美国社会长期存在的种族歧视问题再次浮上水面，引发了美国大规模的游行和示威活动。

　　来源：南方都市报