围攻微软，AI 何罪？

点击上方“CSDN”，选择“置顶公众号”

关键时刻，第一时间送达！

技术本身并不可耻！

两年前快播 CEO 王欣在庭审为自己辩解时如是说。确然，菜刀本无罪，但是向冲突的双方兜售菜刀就是有罪。技术本无罪，但人为地利用技术作恶就是罪无可赦。

山雨欲来风满楼。随着硬件的势如破竹、卷积神经网络模型的提升，深度学习技术得以打破常规，将人工智能第三次浪潮推向顶峰。而微软、Google、Facebook、亚马逊、百度、阿里巴巴、腾讯等科技行业巨头的纷纷入席，无疑为这场战争开辟了多个领域多条战线，语音助理、自动驾驶、人脸识别、智能翻译、无人机等应用的研发炫技琳琅满目。毫无疑问，如今的这场战争已进入白热化阶段，各路兵锋扭转指向了未来。然而，为了抢占更多应用领域的先机，很多人利用 AI 开始了作恶。

▌微软：妻离子散事件的帮凶

这两天的微软一直占据各大科技媒体的头条，不再是因为收购了 GitHub、也不是收购教育创业公司 Flipgrid，而是因为他与美国的移民和海关执法局（Immigration and Customs Enforcement ，简称 ICE)）签订了云计算软件 Azure Government 的合同。对，就是那个今年 1 月份，微软发博文以及 Twitter 昭告天下且非常“proud”的合同。

要论一份合同如何掀起一场腥风血雨，那必然是有导火索。

这要从近几年川普政府不断出台强硬的移民政策谈起。虽然一直以来，川普政府都对移民进行施压，ICE 也逐渐加强了无证移民的抓捕力度。但在今年 5 月，特朗普政府开始对移民实施“零容忍”政策，对所有从墨西哥非法越境的人均实施抓捕，但对于移民而言，他们大多是拖家带口进行迁移，而“零容忍”政策并未规定未成年的非法移民应该怎么办，所以现在酿成的局面就是所有的成人被关押起来，他们的孩子被迫分离，被另行关押。

为了安置激增的非法移民儿童，美国当局搭建了许多临时收容中心。美国海关与边境保护局发布的照片显示了一个被移民们称为“La Perrera”（西班牙语，意为“狗窝”）的地方。据美联社报道，每个铁笼约 100 平米，关有 20 名儿童，到处散落着空矿泉水瓶、薯片袋以及用作毯子的锡纸。

此外，据美联社从美国国土安全部获得的信息，4 月 19 日至 5 月 31 日，共有 1995 位儿童在美国和墨西哥边境与移民父母分离，每天涉及儿童约达 48 人。

而作为科技巨头微软，如何卷入这场政府政策的纷争之中，这就与上文提到的合同有关。微软与今年 1 月发博文宣布，“微软与美国空军和 ICE 就微软的 Azure 云计算服务签订新合同。Azure 帮助 ICE 处理“敏感的未分类数据”，并包括使用“深度学习加速面部识别”和“身份验证”的能力。”

目前，ICE 正在为国土安全和公共安全实施变革性技术。而微软为 ICE 提供变革性技术主要有三点：

• 通过实时监控、智能分析来阻止非法出入境；

• 分析数据，在威胁到达边境之前识别出来；

• 在不同机构、不同边境地区之间合作。

到这里，必然就明白了微软为何被推向了风口浪尖，虽未直接作恶，但是为了追逐利益，为作恶提供了便利的通道，那么民众自然无法忍受。基于此，微软发布紧急声明表示：

微软并没有与美国移民和海关执法局或美国海关和边境保护部门合作处理任何有关将孩子与家人分开的项目，而且我们并不知道 Azure 或 Azure 服务正在用于此目的。

微软公司 20 多年来一直致力于将技术与法治相结合，以确保难民和移民的子女可以与父母保持联系。

最后，我们会敦促政府改变其政策以及希望国会通过立法，确保儿童不再与家人分开。

因为一句不知情就想要敷衍过去，且仍为 ICE 提供 Azure 服务，必然很多人并不会买账。对此，一位作家及开发商 Mat Marquis 在 Twitter 上宣布，其正在取消与微软的合作，以抗议微软的 ICE 合同。与此同时，微软员工也在向其管理层施压，他们在致微软 CEO 萨提亚·纳德拉的公开信中，要求微软取消与 ICE 签订价值 1940 万美元的合同，并希望制定一项禁止与违反国际人权法的客户进行合作的政策。

截止目前，微软还未针对此公开信做出回应。事实上，用技术通道和政府部门达成合作，最终引发群众质疑的科技公司，并非只有微软一家。

▌Google：个人隐私的偷窥者

此前，标榜“永不作恶”的 Google 还是湿了鞋。

去年 4 月，Google 与美国国防部合作开展了 Maven 项目，其中 Google 旨在开发加快无人机影像分析速度的 AI 算法，根据五角大楼的说法，该项目能够帮助处理军队收集的“数百万个小时的无人机拍摄视频”，能够自动检测和识别无人机全动态摄像机捕获的多达 38 种物体。

而对于 Google 首次与军方合作这一消息传出，立即引发业界强烈的质疑。他们认为 Google 为军方提供的无人机监控操作服务会严重侵犯隐私安全，而且 Google 根本就不应该参与武器类产品的开发，因为最终要为带来的杀伤担责的不是算法本身，而是创造它们的人。

而多方的质疑声并未能让 Google 改变心意。后来，Google 内部超 3100 名员工联名上书 Google CEO 桑达尔·皮查伊、200 多名人工智能领域专家联名反对、多名员工提出离职以作抗议......

最终，迫于内外界重重压力，Google 宣布不再与国防部续签 Maven 项目，并发布人工智能使用的十一条准则来明哲保身，其中包括 Google 进行 AI 研发的七个目标：

1. 要对社会有益

2. 要避免制造或加强不平等的偏见

3. 要保证安全性

4. 要对人负责

5. 要结合隐私设计原则

6. 要维持科学卓越的高规格

7. 要可以用于符合原则的使用场景

和 Google AI 绝不会进入的四种应用场景：

1. 带来或可能带来伤害的技术 

2. 武器或其他旨在给人们造成伤害的技术

3. 收集或使用信息用于监控并违反国际规范的科技

4. 技术的目的违反了广泛接受的国际法与人权原则的科技 

至此，长达八个月的反对 AI 军事化“抗争”才落下帷幕。

▌亚马逊：一切都在掌控之中

2016 年，亚马逊推出了一款面部识别软件 Rekognition，它是一种基于深度学习进行图像识别和分析的托管服务，提供的功能包括物体和场景检测、面部分析、面部比较和面部识别。RekogniTion 可被用于对数千万个人脸进行实时面部识别，能够从人员密集、具有挑战性的照片中最多检测到 100 个人脸。

近日，据外媒报道，俄勒冈州华盛顿县警局将开始使用亚马逊面部识别软件 Rekognition，他们可以上传人脸数据库，并自动识别个人。此前，俄勒冈州华盛顿郡的一名系统分析师解释了，Rekognition 如何分析包含 30 万张被捕者照片的数据库，与监控画面中出现的面孔进行匹配。需要指出的是，这个数据库中包含的是被捕的人，而不只是最终被认定有罪的人。如果被捕者被认定是无罪的，也不能保证他们的照片从这些数据库中被清除。

对于此， 20 家股东团体，及美国公民自由联盟( ACLU )牵头的 70 多个民权组织分别致信亚马逊 CEO 贝索斯，要求停止向执法部门出售面部识别软件 Rekognition 。股东认为，这项技术不仅可能对全国客户和其他利益相关者构成隐私威胁，而且可能提高亚马逊公司面临的实质性风险，并为股东增加金融风险。

而由美国公民自由联盟( ACLU )牵头的 70 多个民权组织在请愿书写道:“面部识别并不是中立的技术，不管亚马逊如何部署。它使大规模监控自动化，威胁到人们在政府监视之外的私人生活自由，并放大刑事司法系统中的偏见和不平等。”

亚马逊对此并不认为 Rekognition 具有入侵性。其表示，作为一项技术，亚马逊 Rekognition 在现实生活中也有许多有用的应用程序。同时，随着越来越多公司开始使用亚马逊 Rekognition 等先进技术，AI 服务在生活中效用只会增加。如果只是因为某些人可能会滥用 AI 技术，人们就选择禁用 AI 技术，那生活质量将会变得更糟糕。

▌比核武器更加危险的 AI？

谷歌云首席机器学习和人工智能首席科学李飞飞曾表示过，要让机器“不作恶”，人工智能的开发需要有人本关怀。

与上述相悖的是，Google 发布 AI 工具，可用于诊所之中，预测病人死亡风险；百度发布全新肿瘤识别 AI 算法，准确率超专业病理医生；Facebook 研发 AI 处理工具，可挽救拍照时闭眼难题。

所以，对于 AI 是否会成为妻离子散的棍棒、隐私的偷窥者，还是治病救人的医生、便捷生活的工具......将都取决于你想要它成为什么。而对于 AI 会比核武器更危险的威胁论，或许他们担心的并不是技术本身，而是利益驱使下的人心罢了。就现在而言，想要判断投入使用的 AI 技术是否会在将来遭到滥用，这道界限真的很难判断，但需铭记的是 Don't be evil！

  征稿啦！

CSDN 公众号秉持着「与千万技术人共成长」理念，不仅以「极客头条」、「畅言」栏目在第一时间以技术人的独特视角描述技术人关心的行业焦点事件，更有「技术头条」专栏，深度解读行业内的热门技术与场景应用，让所有的开发者紧跟技术潮流，保持警醒的技术嗅觉，对行业趋势、技术有更为全面的认知。
如果你有优质的文章，或是行业热点事件、技术趋势的真知灼见，或是深度的应用实践、场景方案等的新见解，欢迎联系 CSDN 投稿，联系方式：微信（guorui_1118，请备注投稿+姓名+公司职位），邮箱（[email protected]）。

————— 推荐阅读 —————

点击图片即可阅读