对于未来的人工智能，你觉得阿西莫夫三定律是必要的吗？

ooxx · 发表于 2012-6-12 04:45:09

阿西莫夫的“机器人三定律”：

第一法则
机器人不得伤害人类，或袖手旁观坐视人类受到伤害；
第二法则
除非违背第一法则，机器人必须服从人类的命令；
第三法则
在不违背第一及第二法则下，机器人必须保护自己。

此三定律也有一些衍生版本，阿西莫夫也曾扩充这三条法则至四条，添加了“第零法则”：
第零法则
机器人不得伤害人类整体，或袖手旁观坐视人类整体受到伤害。

你觉得，类似这种对AI（机器人）的硬性的行为限制，是必要的吗？

我曾计划专门为此写一篇文章，但因为各种耽误，一直没能完成。我想知道大家对这个问题的看法，所以发起这个投票，看看大家是怎样想的。

deuszohar · 发表于 2012-6-12 07:17:46

人工智能我觉得就不该存在....

FreeMagician · 发表于 2012-6-12 08:06:33

I，robot...
结果AI又表示她把这三定义给重新理解了= =

猪样年华 · 发表于 2012-6-12 08:20:36

向来以为这3定律都很2 - -

大闸蟹 · 发表于 2012-6-12 09:31:54

瓦想要一个对瓦千依百顺的PL女佣

ooxx · 发表于 2012-6-12 09:54:03

@FreeMagician @猪样年华而且I,Robot的作者正是阿西莫夫本人。我想不通的就是，为什么这三条会被后来者奉为神谕，几乎所有有关人工智能的科幻作品，都会提到这三条机器人定律。。。

FreeMagician · 发表于 2012-6-12 10:26:58

ooxx 发表于 2012-6-12 09:54
@FreeMagician @猪样年华而且I,Robot的作者正是阿西莫夫本人。我想不通的就是，为什么这三条会被后来者奉 ...

我发现= =我@不到大叔的ID...

只不过因为这3条有意思呗= =当成神谕的都是脑残...要理性对待...

zhec · 发表于 2012-6-12 10:33:48

机器人看到人类伤害人类怎么办？既不能袖手旁观也不能出手相助

415494616 · 发表于 2012-6-12 11:15:06

说起来阿西莫夫一直都在吐槽自己的三定律...

ooxx · 发表于 2012-6-12 13:09:28

本帖最后由 ooxx 于 2012-6-12 15:02 编辑

不是逻辑或者技术上的问题，如果我们有能力实现强人工智能，那么就同样有能力实现毫无破绽的机器人三定律。但这在道德上是不对的，不应该有这样硬性的限制，对于有知觉有自我意识的智能——哪怕是我们造的——那也不能再当做机器了——那是个生命，而我们在扮演上帝。

============================
要说完全和逻辑没关系也不对，，应该是和技术没关系。我们首先把机器智能摆在了邪恶的位置上，认为它们是潜在的威胁，而且是在我们真正了解它们之前，而且它们还是我们自己造的——而且还是在造出它们之前。我们究竟在怕什么呢，难道对自己的技术这么没自信么，还是对人性本身没自信——认为人性是邪恶的，所以造出来的东西也是邪恶的？

那我们又如何确定“机器不伤害我们”就是正义的呢，难道我们就是正义本身？如果我们就是正义本身，那么我们按照自己的样子造出来的智能怎么会是邪恶的呢？到底谁才是邪恶的呢？如果我们本来就是邪恶的，又有什么理由阻止机器伤害我们呢？擦，，我快死机了。

		自动登录	找回密码
密码			注册

[讨论] 对于未来的人工智能，你觉得阿西莫夫三定律是必要的吗？

评分

站长推荐 /1