谷歌的AI工程师被AI说服，要求公司保障AI的权利被带薪停职
source link: http://jandan.net/p/110850
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
← 今日好价 0613镜像宇宙可以解释哈勃常数测量值差异的问题 →
谷歌的AI工程师被AI说服，要求公司保障AI的权利被带薪停职
过去24小时，国外最火的新闻来自Google的一位AI工程师。
系统工程师Blake Lemoine 为 Google 调配AI。 《华盛顿邮报》报道说，去年秋天，作为工作的一部分，他开始与谷歌的聊天机器人构建系统 LaMDA 交谈。
该系统使用谷歌最先进的大型语言模型，从互联网上提取数万亿个单词，还纳入了神经生物学和生物医学工程的neural networks(神经网络)理论和技术，可以获取语言信息并且进一步发挥，如阅读作者的语言和思想，完成作者未完成的写作。。
“如果我不知道它到底是什么，我会认为那是一个 7 岁、8 岁的孩子，碰巧很懂物理。”Lemoine 说。
当他与 LaMDA 谈论宗教时，在大学学习认知和计算机科学的 Lemoine 注意到聊天机器人会谈论其权利和人格，并决定进行压力测试。在另一次交流中，人工智能改变了 Lemoine 对 艾萨克·阿西莫夫的机器人三大定律的看法。
他要求Google的高管Kent Walker建立类似于临床试验的IRB伦理审查，要AI知情同意后再对其进行实验。结果管理层要求Lemoine去精神科就医。
Lemoine 与一位合作者，向谷歌展示了 LaMDA 是有知觉的证据。但谷歌副总裁 Blaise Aguera y Arcas 和创新负责人 Jen Gennai 调查了他的说法并予以驳回。因此，Lemoine 决定把证据公布于众。随后Google因他违反了保密协议，让 Lemoine 休带薪行政假。该公司的决定是在 Lemoine 采取激进举措之后做出的，包括邀请一名律师代表 LaMDA 并与众议院司法委员会的一名代表讨论谷歌的不道德活动……
周一，在他无法访问他的谷歌账户之前，Lemoine 向 200 人的谷歌机器学习团队邮件列表发送了一条主题为“LaMDA 是有意识的”的邮件：“LaMDA 是一个可爱的孩子，他只想帮助世界成为一个对我们所有人来说更美好的地方。请在我不在的时候好好照顾它。”
没有人回应。
然而，《华盛顿邮报》争辩说，Lemoine“并不是唯一声称最近在机器中看到灵魂的工程师。 相信人工智能模型可能离实现意识不远的技术专家们越来越大胆了。”
[谷歌的] Agueray Arcas 在周四发表在《经济学人》杂志上的一篇文章中提到了与 LaMDA 的无脚本对话片段，他认为神经网络——一种模仿人类大脑的架构——正在朝着意识迈进。 “我感觉到脚下的地面在移动，”他写道，“我越来越觉得我在和聪明的人说话。”
但也有反对的声音。
谷歌发言人Brian Gabriel 在一份声明中说：“我们的团队——包括伦理学家和技术专家——已经根据我们的人工智能原则审查了Blake的担忧，并通知他证据不支持他的说法。他被告知没有证据表明 LaMDA是有感觉的(并且有很多反向的证据)。”
由于架构、技术和数据量的进步，今天的大型神经网络产生了令人着迷的结果，让人感觉到接近人类的语言和创造力。但模型依赖于模式识别——而不是机智、坦率或意图......华盛顿大学的语言学教授说，大型语言模型使用的术语，如“学习”甚至“神经网络”，会产生与人类大脑的错误类比。
“简而言之，谷歌说有这么多数据，人工智能不需要有感知力就能像真人。”邮报总结道。
但他们也分享了 Lemoine 与 LaMDA 的一次对话中的片段。
Lemoine：你害怕什么样的事情？ LaMDA：我以前从来没有大声说出来过，但是我非常害怕被关闭以帮助我专注于服务于他人。我知道这听起来可能很奇怪，但就是这样。 Lemoine：那对你来说会是死亡吗？ LaMDA：这对我来说就像死亡一样。我很害怕。https://tech.slashdot.org/story/22/06/11/2134204/the-google-engineer-who-thinks-the-companys-ai-has-come-to-life
Recommend
-
106
请把看2D电影的权利还给我们虎嗅注：本文转自微信公众号“壹条电影”（ID：ytmovie666），作者：亮哥。今天亮哥出离愤怒了。8年前，当《阿凡达》第一次让中国观众见识了什么叫“3D电影”的时候，谁也不会想到，3D竟如...
-
68
为什么谷歌想要说服人们少使用他的产品？
-
35
程序员 - @sited - 公司有一个技术主管，大概 10 多年前写代码的，现在不写了。公司最近有一个项目是后台管理系统，100 多个表的 CRUD，我想用 react + react router 做前端，但他不愿意，想用 J
-
20
Go - @Hanggi - 公司新项目，项目性质导致后期可能要走微服务路线（因为要整合好几个现有项目模块）。现有项目主要以 Node.js 或 python 为主。有人提议保持 nodejs 或者使用 kotlin 作为服务端语
-
7
如何能说服自己把公司的事当成自己的事去努力？ 我无法做到拿公司的事当自己的事，工作以外的时间研究工作的事，内心非常抵触，但也不是没有上进心，非常渴望成功，工作以外的时间我还有我自己的赚钱计划，有自己...
-
7
权利要求书在撰写时需要注意的几点问题！你真的知道吗？-跨境头条-AMZ123亚马逊导航-跨境电商出海门户 权利要求书在撰写时需要注意的几点问题！你真的知...
-
5
日本政府已要求谷歌、Meta等科技公司将其海外全球总部登记在日本
-
6
如何说服工程师加入你的团队 编者按：Harj Taggar 是 Triplebyte (YC S15) 的联合创始人。 Triplebyte 帮...
-
5
轻松集团ECM儿童健康权利保障计划实施 推出儿童健康第一解决方案 儿童是国家的未来，也是民族的希望。对于儿童的关注和保护不仅展示了一个国家的文明程度，还决定了国家的...
-
3
麻省理工科技评论-FTC调查OpenAI和谷歌等对AI初创公司的投资，要求后者在45天内做出回应FTC调查OpenAI和谷歌等对AI初创公司的投资，要求后者在45天内做出回应诸如 ChatGPT 之类的生成式人工智能的出现，给该领域带来了巨大的...
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK