10

距离阿西莫夫的机器人三大法则，还有多远？

 4 years ago
source link: https://www.maixj.net/ict/jiqiren-sandafaze-24478
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

距离阿西莫夫的机器人三大法则，还有多远？

2021年4月6日 / 0次阅读

著名的已故科幻小说家阿西莫夫，曾在他的小说《我，机器人》的《引言》中，提出非常著名的机器人三大法则（Three Laws of Robotics）。阿西莫夫的科幻小说中，有不少情节的发展都与这三大法则密切相关。

第一条法则：机器人不得伤害人类个体，或者目睹人类个体将收到伤害或危险而袖手不管；
第二条法则：机器人必须服从人类给予它的命令，当该命令与第一法则冲突时例外；
第三条法则：机器人在不违反第一、第二法则的情况下，要尽可能保护自己的生存。

如果我们将机器人这个关键词换成AI呢？如下是“AI三大法则”：

第一条法则：AI（设备）不得伤害人类个体，或者目睹人类个体将收到伤害或危险而袖手不管；
第二条法则：AI必须服从人类给予它的命令，当该命令与第一法则冲突时例外；
第三条法则：AI在不违反第一、第二法则的情况下，要尽可能保护自己的生存。

我们现在构想的AI，与阿西莫夫几十年前构想的“未来机器人”，有多少区别？不管其外形，或实现方式的区别，内核其实是差不多的，都是一种人造的智能体，并且要服务于人类。那么，这种人造的智能体，可以植入某种人类预设的法则吗？比如植入这三大法则。

从现在的发展态势来看，还完全看不出有任何迹象，人类会有一个统一的针对人工智能的行为法则，不过各方面各种层次的讨论已经开始展开。但是，就像人类世界面临的其它各种重大话题一样，这种讨论的也因各自的立场而分歧严重。

从目前的形式来看，有一些AI设备就是用来制造伤害的，比如讲AI技术应用于武器装备，比如闹得沸沸扬扬的Deepfake（换脸技术）；而现在的AI技术一定是服从人类的指令的，这种服从根本不管是否与“第一法则”冲突；现在的AI技术基本没有保护自己存在的能力，人类还没有给它们这种能力。

我们现在的AI技术，虽然已经能够在最复杂的围棋领域“天下无敌”，但是距离阿西莫夫的机器人三大法则，其实还非常遥远。自动驾驶还处在发展早期；机器人还主要是应用在黑灯工厂，并没有大规模应用于人类的日常生活；AI算法在大数据训练之后，还只能应用在某种比较单一的领域，还没有出现像人类智慧一样的一般化的智能算法；对于意识的研究，科学家依然没有实质性的进展......AI技术上达不到，AI技术的伦理上也没有统一！

不过，事情总是的向前发展的，在现在这个AI发展的早期阶段开始讨论AI技术的伦理，尝试着规范未来一定无处不在的AI技术与人类的关系，很及时，而且意义重大。人类是否能够统一未来AI技术的伦理，我不知道，但一定会有某种（或多种）伦理，存在于未来的AI技术之中，影响的人类社会的发展。


report

Recommend

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK