21

这家公司识别了30亿张网络照片身份 专家称人类隐私将不复存在

 4 years ago
source link: http://tech.qq.com/a/20200119/007612.htm
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

FvuMBzN.jpg!web

划重点:

  1. “他们的所作所为令人毛骨悚然,但这些公司还会有更多。”斯坦福法学院隐私教授阿尔·吉达利说:“数学没有垄断这一说,如果没有一项非常强有力的联邦隐私法,我们都完蛋了。”
  2. 也许这个工具可以用来审查家里雇佣的保姆,或者作为监控摄像头的附加功能。酒店大堂的保安如果能够利用这个工具直接识别出客人身份,称呼客人的名字会怎样?“我们想到了每一个创意。”霍唐说。
  3. 明视公司识别系统流行的原因之一是它的服务是独一无二的。这是因为Facebook和其他社交媒体网站禁止人们抓取用户的图像——明视公司违反了网站的服务条款。

腾讯科技讯 人脸识别技术的快速应用,虽然方便了人类的生活和工作,但是同时带来了史无前例的侵犯个人隐私的威胁,欧盟正在考虑禁止在公共场所使用人脸识别(时间长达五年),微软公司也呼吁各国政府注意人脸识别应用的监管。

据外媒最新消息,一家不为人知的科技新创公司正在利用人脸识别技术对全世界老百姓的隐私权构成巨大威胁,这家公司从Facebook等各种社交网络上采集了30亿张照片,识别了详细身份,他们甚至和警方展开了合作。

据国外媒体报道,直到最近,霍唐(Hoan Ton-That)最成功的一些软件包括一款与众不同的苹果手机游戏,以及一款让人们把唐纳德·特朗普与众不同的黄头发放在自己照片上的特效软件。

后来,身为澳大利亚科技开发者和曾经的模特的霍唐做了一件大事:他发明了一种工具,这种工具将会终止你隐藏身份在街上行走的能力,他把这一工具提供给数百个执法机构,包括从佛罗里达州的当地警察到联邦调查局和国土安全部。

他的小公司“明视人工智能”(ClearView AI)设计了一款开创性的人脸识别应用。你给一个人拍了一张照片,上传后就可以看到这个人所有的网络公开照片,以及那些照片出现的链接。

该系统的主干是一个包含30多亿张图片的数据库,明视公司声称这些图片是从Facebook、YouTube、Venmo和数百万其他网站上搜罗来的,远远超出了美国政府或加州硅谷巨头曾经构建的任何照片数据库。

美国联邦和州执法官员表示,虽然他们对明视公司的工作方式和幕后主使知之甚少,但他们利用其应用软件帮助解决了商店盗窃、身份盗窃、信用卡欺诈、谋杀和儿童性虐待案件。

到目前为止,根据每个人的面部图像识别其身份一直是禁忌,因为它严重侵害了个人隐私权。一些有能力发布这种工具的科技公司没有这样做。

2011年,谷歌董事长当时表示,这是该公司一直保留的一项技术,因为它可能被“以非常糟糕的方式”被滥用。过去,包括加州旧金山在内的一些大城市禁止警方使用人脸识别技术。

但据该公司称,在没有公众监督的情况下,600多家执法机构在过去一年开始使用明视公司的系统,该公司拒绝提供执法机构的详细名单。

据美国媒体分析,明视公司应用软件背后的计算机代码包括将系统与增强现实眼镜进行匹配的内容,用户能够识别他们在街上看到的每个人。该工具可以识别抗议活动中的活动分子或地铁上有吸引力的陌生人,不仅可以显示他们的名字,还可以显示他们住在哪里、做了什么以及认识谁。

另外,除了执法部门之外,明视公司还出于安全目的向至少几家公司授权了该应用软件。

“这种武器化的可能性是无穷无尽的,”加州圣克拉拉大学高科技法律研究所的联合主任埃里克·戈德曼说。“想象一下,一个流氓执法官员想要跟踪潜在的浪漫伴侣,或者一个国家利用这一点挖掘关于人们的秘密来敲诈他们或者把他们扔进监狱。”

明视公司一直隐藏在秘密之中,避免就其突破边界的技术展开辩论。当外媒在去年11月份开始调查这家公司时,它的网站只是一个空白页,显示了一个不存在的曼哈顿地址作为它的营业地。

该公司在白领社交网络LinkedIn只列出了一名员工,一名名叫“约翰·古德”的销售经理,此人原来就是上述的开发者霍唐,只不过用了一个假名。一个月内,这家公司的员工没有回复媒体的电子邮件或电话。

当公司在躲避媒体记者的时候,它也在监视记者。在媒体的要求下,一些警察已经通过明视公司应用软件扫描了调查记者的照片。他们很快就接到了明视公司代表的电话,询问他们是否在与媒体交谈,这表明明视公司有能力,也有兴趣监控执法部门在寻找谁。

人脸识别技术一直备受争议。这让人们对个人隐私权感到紧张。过去,针对为某些群体(比如有色人种),人脸识别系统提供不太精准的识别结果,引发了一些争议。

警方使用的一些人脸识别产品——包括明视公司的产品——还没有经过独立专家的审查。

明视公司的应用软件带来额外的风险,因为执法机构正在将敏感照片上传到一家公司的服务器上,该公司保护个人数据的能力未经测试。

该公司最终开始回答媒体记者的问题,称其早期的沉默是秘密模式下早期初创企业的典型特征。霍唐承认设计了一款用于增强现实眼镜的原型,但表示公司没有发布计划。他说,记者的照片敲响了警钟,因为该应用“标记了可能的异常搜索行为”,以防止用户进行它认为“不恰当的搜索”

除了霍唐之外,明视公司的创始人还包括理查德·施瓦茨,此人在鲁道夫·朱利安尼担任纽约市长时是他的助手。明视公司由彼得·泰尔提供资金支持,后者是Facebook和Palantir等公司背后的知名风险投资家。

明视公司的另一个早期投资者是一家名为基伦纳加的小公司。它的创始人大卫·斯卡索对明视公司使整个互联网可以通过面部搜索的担忧不予理会,他说这是一个有价值的犯罪解决工具。

斯卡索说,“我得出的结论是,因为信息不断增加,永远不会有隐私。法律必须确定什么是合法的,但你不能禁止技术。当然,这可能会导致混乱的未来,但你不能禁止它。”

沉迷于人工智能

31岁的霍唐在远离美国硅谷的地方长大。在他的祖国澳大利亚,他从小在越南祖先的故事长大。2007年,他大学辍学,搬到美国旧金山。当时苹果手机刚刚上市,他的目标是尽早进入他预期的充满活力的社交媒体应用市场。但他早期的创业从未获得真正的成功。

2009年,霍唐创建了一个网站,让人们通过移动聊天软件与所有联系人分享视频链接,这个网站后来被打上“网络钓鱼骗局”的标签,随后霍唐关闭了网站。

2015年,他推出了“特朗普头发”软件,这个特效工具可以在普通人的头部加上特朗普特征的金发。霍唐还开发了另外一个照片分享工具,但是这些软件产品基本上都失败了。

霍唐十分沮丧,他于2016年搬到了美国纽约。霍唐又高又瘦,留着黑色长发,他曾考虑过职业模特的生涯,但在一次模特尝试后,他又开始试图搞清楚科技领域的下一件大事。他开始阅读关于人工智能、图像识别和机器学习的学术论文。

施瓦茨和霍唐于2016年在曼哈顿研究所的一次图书活动中相遇,曼哈顿研究所是一个保守的智囊团。现年61岁的施瓦茨在1990年代为朱利安尼工作,并在21世纪初担任《纽约每日新闻》的编辑,积累了令人印象深刻的人脉网络。

两人很快决定一起进入人脸识别行业:霍唐将会开发这个应用软件,施瓦茨将会利用他的人脉来激发外界的商业兴趣。

实际上,各国的警察部门已经使用人脸识别工具将近20年了,但是他们在历史上仅限于搜索政府提供的人脸图像,比如脸部照片和驾照照片。近年来,人脸识别算法的准确性有所提高,像亚马逊这样的公司提供的产品可以为任何图像数据库创建人脸识别程序。

霍唐要超越现有人脸识别公司的水平。他从2016年开始招募了几名工程师。其中一个帮助设计了一个程序,可以通过互联网自动收集人们的面部图像,比如就业网站、新闻网站、教育网站和社交网络,包括Facebook、YouTube、推特、Instagram甚至Venmo。

这些公司的代表对新闻界表示,他们的政策禁止这种人脸照片采集行为,推特网站表示,它明确禁止使用其数据进行人脸识别。

另一名招聘的工程师工作是完善从学术论文中提取的人脸识别算法。最终,明视公司取得了一个成功,一个霍唐描述的“最先进的神经网络”,可以将所有图像转换成基于面部几何的数学公式或矢量,比如一个人的眼睛有多远。

明视公司创建了一个巨大的目录,将所有向量相似的照片聚集到“邻域”中。当用户上传一张人脸照片到明视公司的系统中时,它会将人脸转换成一个矢量,然后显示存储在该矢量邻域中的所有被刮的照片,以及这些图像来源的网站链接。

施瓦茨支付了服务器费用和基本费用,但公司运作十分简单,每个人都在家工作。“我靠信用卡债务生活,”霍唐说,“另外,我是比特币的信徒,所以我有一些比特币。”

随着警方应用迅速传播

到2017年底,该公司已经开发出了一个强大的人脸识别工具,叫做“智能审查器”。但是施瓦茨和霍唐还不知道要卖给谁。

也许这个工具可以用来审查家里雇佣的保姆,或者作为监控摄像头的附加功能。酒店大堂的保安如果能够利用这个工具直接识别出客人身份,称呼客人的名字会怎样?“我们想到了每一个创意。”霍唐说。

根据一份文件显示,2017年底,明视公司人脸识别一个更奇怪的应用提议是让保罗·尼伦(一个自称“亲白人”的共和党人,在威斯康星州竞选国会议员)使用“非常规数据库”进行“极端反对者研究”,这份文件后来公布在网上。

不过霍唐表示,公司从未真正提供过这样的人脸识别服务。

该公司很快更名为“明视人工智能公司”,并开始向执法部门营销软件。当时,该公司从外部投资者——泰尔和基伦纳加——那里获得了第一轮融资。除此之外,泰尔还因秘密资助胡克·霍根的诉讼而闻名,该诉讼导致广受欢迎的网站Gawker破产。泰尔和霍唐一直是该网站负面新闻的主角。

泰尔的发言人杰里迈亚·霍尔(Jeremiah Hall)表示:“2017年,彼得给了一位才华横溢的年轻创始人20万美元,两年后这笔钱被转换成了明视公司的股权。那是彼得唯一的贡献,他没有参与公司业务。”

据追踪初创企业投资的网站Pitchbook称,即使在2019年第二轮融资后,明视公司仍然很小,累计从投资者那里筹集了700万美元。该公司拒绝对媒体确认投资金额。

今年2月,印第安纳州警方开始试验明视公司的人脸识别软件。他们在使用该应用软件后20分钟内解决了一个案件。

在案件中,两个人在公园里打了一架,当一个人朝另一个人的肚子开枪时,斗殴结束了。一名目击者通过电话报告了这一罪行。随后警方通过明视公司的应用软件搜索持枪者的面部表情照片。

他们立刻找到了一个匹配对象:这个人出现在一段社交媒体上的视频中,他的名字被包含在视频的标题中。“他没有驾驶执照,成年后也没有被捕,所以他不在政府数据库中,”当时印第安纳州警察队长查克·科恩(Chuck Cohen)说。

这个人被逮捕并受到指控。科恩说,如果没有在社交媒体上搜索他的人脸照片的能力,他可能不会被认出来。

据该公司称,印第安纳州警方成为明视公司的第一个付费客户,警方拒绝置评,只是说他们测试了明视公司的人脸识别软件。

明视公司找了现任和前任共和党官员来接近警方,销售软件。该公司提供免费试用和最低2000美元的年度使用费。

据霍唐说,施瓦茨利用他的政治关系来帮助政府官员发现这个人脸识别系统。“我很高兴有机会帮助霍唐将明视公司建设成一个使命驱动的组织,帮助执法部门保护儿童,增强全国各地社区的安全,”施瓦茨通过一名发言人说。

该公司与客户的主要联系人是杰西卡·梅德罗斯·加里森(Jessica Medeiros Garrison),她曾经参加阿拉巴马州司法部长管理路德·斯特朗的共和党竞选活动。相关人士称,加里森是该公司的“增长顾问”。明视公司表示,这是一个短暂的、无报酬的角色,该公司还邀请了民主党人来帮助推销其产品。

该公司最有效的销售技巧是向警方提供30天免费试用,然后警官鼓励他们的采购部门注册软件,并在会议和在网络向其他警察部门的警官称赞该工具。这样一步一步,霍唐的人脸识别在警方圈子内引起了轰动。

去年7月,美国新泽西州克利夫顿的一名警官在一封电子邮件中敦促他的上司购买该软件,因为它“能够在几秒钟内识别出一名嫌疑犯”。

在该部门的免费试用过程中,明视公司指认了商店扒手、苹果商店小偷和一个见义勇为的撒玛利亚人,这个人痛击了一个用刀子威胁他人的歹徒。

这位警官在的电子邮件中写道,“可以用长焦镜头秘密拍摄照片并输入软件,而不使用警方的跟踪监控操作。”

根据明视公司的销售演示材料,该应用软件有助于识别各类人群,比如一个被指控性虐待儿童的人,他的脸出现在别人健身房照片的镜子里;亚特兰大一系列邮箱盗窃案的幕后黑手;一个被发现死在阿拉巴马州人行道上的无名氏,以及银行多重身份欺诈案件的嫌疑人。

在佛罗里达州的盖恩斯维尔,警官尼克·费拉拉去年夏天在面对金融犯罪调查人员的广告中听说了明视公司。他说,他以前只依赖于佛罗里达州州政府提供的人脸识别工具FACES,该工具从佛罗里达3000多万张面部照片和机动车部门的照片中提取了人脸信息。

费拉拉发现明视公司的应用软件更先进,他说。它的全国人脸图像数据库要大得多,另外和FACES不同的是,明视公司的算法不需要人脸正对摄像头的照片。

费拉拉警官说:“有了明视公司,你可以使用拍摄不完美的照片。一个人可以戴着帽子或眼镜,也可以是侧面照片或他们面部的局部视图。”

他把自己的照片上传到系统,系统调出了他在社交支付网站Venmo的个人资料页面。他输入了了旧的、未结案案件的照片,并确认了30多名嫌疑人。去年9月,盖恩斯维尔警察局支付了10000美元购买了一年的明视公司人脸识别系统许可证。

据该公司和政府官员称,联邦执法部门,包括联邦调查局和国土安全部,以及加拿大执法当局,正在尝试明视的软件。

尽管越来越受欢迎,明视公司一直避免被公开提及,直到2019年底,佛罗里达州检察官指控一名妇女在克莱蒙特的艾斯五金店偷了两个烤架和一个真空吸尘器后犯有盗窃罪。当警察通过明视公司从监控录像中提取一个静止图像,并把它们带到她的Facebook页面时,她就被认出来了。根据该案的文件,监控视频和Facebook照片中可见的纹身证实了她的身份。

“我们都完蛋了”

不过,霍唐也指出,人脸识别系统并非任何时候都有效。明视公司数据库中的大多数照片都是在眼睛水平高度拍摄的。警方上传的大部分照片或者视频来自安装在天花板或墙上的监控摄像头。

“他们把监控摄像头放得太高了,”霍唐感叹道。“这个角度对于人脸识别正常工作是错误的。”

该公司表示,尽管如此,其工具仍能在75%的时间里找到匹配人员。不过,目前还不清楚该工具多长时间会发生一次错误匹配,因为它还没有被一个独立的机构测试过,比如美国国家标准技术研究所(这是一个评估人脸识别算法性能的联邦机构)。

“我们没有数据表明明视公司的识别系统是准确的,”乔治城大学隐私与技术中心的研究员克莱尔·加维说,他曾经研究政府部门对人脸识别的使用。“数据库越大,由于所谓的‘二重身’效应,错误识别的风险就越大。他们使用的是在互联网上找到的大量随机人群的人脸数据库。”

但现任和前任执法官员表示,该识别软件是有效的。“对我们来说,试用过程主要是看它是否有效,”前印第安纳州警察队长科恩说。

明视公司识别系统流行的原因之一是它的服务是独一无二的。这是因为Facebook和其他社交媒体网站禁止人们抓取用户的图像——明视公司违反了网站的服务条款。

“很多人都在这么做,”霍唐耸耸肩。“Facebook知道。”

Facebook发言人杰伊·南查罗(Jay Nancarrow)表示,该公司正在与明视公司一起审查这一情况,“如果我们发现他们违反了我们的规定,将采取适当的行动。”

明视公司的投资者泰尔是Facebook的董事会成员。南查罗拒绝对泰尔的个人投资置评。

一些警方官员说,他们没有意识到他们上传的照片被发送到明视公司的服务器上、并存储在服务器上。明视公司试图用一份发给潜在客户的联邦调查局文件来消除人们的担忧,该文件称其客户支持部门的员工不会查看警方上传的照片。

明视公司还聘请了乔治·布什担任总统时期的美国副检察长保罗·克莱门特来缓解人们对人脸识别应用软件合法性的担忧。

克莱门特在8月份给潜在客户(包括亚特兰大警察局和佛罗里达州皮内利亚斯郡治安官办公室)的备忘录中表示,执法机构“在将明视公司用于预期目的时,不会违反联邦宪法或相关的现有州生物特征和隐私法。”

克莱门特现在是柯克兰埃利斯公司的合伙人,他写道,执法部门没有必要告诉被告他们是通过明视公司系统被指认的,只要这不是获得逮捕令的唯一依据。克莱门特没有回应更多置评请求。

备忘录似乎是有效的;亚特兰大警方和皮内拉斯县治安官办公室很快开始使用明视公司的软件。

因为警方上传了他们试图指认的嫌犯照片,明视公司拥有一个不断增长的嫌犯脸部信息数据库(这些个人已经引起了执法部门的注意)。该公司也有能力操纵警方看到的结果。当公司意识到媒体记者要求官员通过应用软件输入记者照片后,记者的脸被明视公司的系统标记出来,有一段时间没有显示匹配。

当被问及此事时,霍唐大笑起来,称之为“软件缺陷”。

“他们的所作所为令人毛骨悚然,但这些公司还会有更多。”斯坦福法学院隐私教授阿尔·吉达利说:“数学没有垄断这一说,如果没有一项非常强有力的联邦隐私法,我们都完蛋了。”

霍唐说他的公司只使用公开的图片。他说,如果你在Facebook上更改隐私设置,使搜索引擎无法链接到你的个人资料,你的Facebook照片将不会被包括在数据库中。

但是如果你的档案已经被搜罗了,那就太晚了。尽管后来可以被删除或撤下,该公司仍保留所有被采集的图像。

不过,明视公司也表示,该公司正在开发一种工具,如果图像已经从原始网站撤下,人们可以要求明视将其删除。

美国波士顿东北大学法律和计算机科学教授伍德罗·哈特佐格认为,明视公司是美国有必要禁止人脸识别的最新证据。

哈特佐格说,“我们一直依靠行业努力来自我约束,不接受如此高风险的技术,但现在水坝正在崩溃,因为桌子上有这么多钱。我看不出未来我们可以在防止监控滥用的背景下使用人脸识别技术的优势,阻止它的唯一方法就是禁止它。”

每个人都知道你的名字

在曼哈顿切尔西区的一个明视公司办公室接受采访时,霍唐演示了这个应用软件。他拍了一张自拍并上传到系统上,该应用软件调出了他的23张照片。其中一个是,他赤裸上身,抽着一支香烟,浑身是血。

霍唐然后给记者拍照,随后识别系统返回了很多照片结果,可以追溯到十年前,包括记者自己以前从未见过的照片。当调查记者用手捂住鼻子和脸的底部时,这个应用软件仍然返回了七个正确的匹配。

警官和明视公司的投资者预测,该公司的应用软件最终将对公众开放。

霍唐表示他不愿意,“总会有一群坏人滥用它,”他说。

即使明视公司不公开它的应用软件,其他公司也可以进行模仿,现在禁忌被打破了。

今天,搜索一个人的照片就像搜索一个名字一样容易。陌生人可以偷听敏感的谈话,给谈话者拍照,掌握个人秘密,另外人们走在街上的人会很快被认出来,只需要几次点击就能够获得他的家庭住址,这将预示着公众隐私的终结。

当被问及将这样一种力量带入这个世界意味着什么时,霍唐似乎吃了一惊。“我必须考虑一下,”他说。“我们认为这是对这项技术的最佳利用。”(腾讯科技审校/承曦)


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK