对于未来的人工智能，你觉得阿西莫夫三定律是必要的吗？

梦仙MX1324

ExtremeEngine 发表于 2012-8-28 00:04
Torsten的项目当中已经证明了一个具备类似进化的算法的程序在若干代的进化之后，其运行的结果与可以处理 ...

你这么说的话就表示你其实是个唯物主义者，所谓AGI之类的东西它终究不是一个独立的等式，它的存在还是要依靠人类自身的等式和一些交集。
PS：那个进化算法挺有意思啊，能给个链接不？我记得我以前数学课上老师还说过计算机产生的随机数表其实并不是真正的随机数...

ExtremeEngine

梦仙MX1324 发表于 2012-8-28 21:54
你这么说的话就表示你其实是个唯物主义者，所谓AGI之类的东西它终究不是一个独立的等式，它的存在还是要 ...

目前的研究和自然界的做法其实是很类似的，创造条件——随机生成一批虚拟大脑——自动筛选与淘汰——微调——产生下一代，如此循环实现的进化。由于它是在计算机内进行的，所以进化速度飞快。区别就在于自然条件下进化还是在人类设定的人工环境下进化。设定不同的环境也许会生成具备特定专长的强AI甚至AGI。
不过我倒是想起了攻壳机动队里的一个非常有趣的观念，当网络发展到相当规模（大概是今天WWW的百倍甚至千倍以上，或者说网络包含了人类及其所处环境的大多数信息）之后，在网络上就会自动出现一些自我意识觉醒的信息体。傀儡回就被认为可能是这类从信息海洋中自动出现的信息体。这大概是将网络，尤其是缺乏管理的信息泛滥的网络当成是一种“自然环境”，和现实中生命出现的路径一样，在混沌理论的支配下自动出现特定的规则，再一代代进化成为信息体。如果这种可能性真的存在的话，这种信息体也就可以被认为是一种AGI。但是和改造者舰队不一样的是，它们不是被人类有意识地培养出来的，而是被无意培养出来的。改造者舰队大致可以类比为通过人工控制环境杂交出来的骡子，而后者如果有可能出现的话，从某种意义上讲，它和其他脱胎于自然界的生命是完全对等的。
如果AGI的出现不需要依赖人类的有意“制造”而可以从大量信息当中自动生成的话（理论上完全可能），那就
太可怕了吧……………………
Torsten Reil的团队致力于提供更自然的AI肢体动作，TED上有：
http://www.ted.com/talks/torsten ... make_animation.html

ooxx

梦仙MX1324 发表于 2012-8-28 21:54
你这么说的话就表示你其实是个唯物主义者，所谓AGI之类的东西它终究不是一个独立的等式，它的存在还是要 ...

“可进化的”的不一定要靠“算法”来实现，忘记喵妹在哪贴里发过的TED视频，我在另一篇帖子中引用过：
http://bbs.deeptimes.org/forum.p ... 4&fromuid=21134
那个化学家团队正在制造可进化的无机物，如果他们取得成功，将是人类首次创造出的新的生命。

我觉得我们的视角不必局限在当代的计算机的程序原理上，未来也许会出现量子计算机或者基于生物体的计算机，我们不必在意技术细节，，这贴的本意是希望进行伦理道德方面的讨论，我觉得剥夺新生命的自由是极其粗暴的不道德的…… 额，，当然任何方向的讨论我都是欢迎的，我以为这篇帖子已经被人忘了呢，这么多天回来看看居然有人在回复哈哈我很开心。

我想说的呢，引用一句台词吧：

"You were the one who taught me Freedom is Everyone's Right !"

梦仙MX1324

ooxx 发表于 2012-8-29 04:07
“可进化的”的不一定要靠“算法”来实现，忘记喵妹在哪贴里发过的TED视频，我在另一篇帖子中引用过：
ht ...

伦理道德，好吧，我觉得对于机器实在不用讲什么伦理道德，比如现在的消防机器人和拆弹机器人，它们总是会代替人类承担极大的风险，在以后的战场上机器人肯定会为了保护人类的生命而当炮灰。

ooxx

梦仙MX1324 发表于 2012-8-29 08:58
伦理道德，好吧，我觉得对于机器实在不用讲什么伦理道德，比如现在的消防机器人和拆弹机器人，它们总是会 ...

你似乎在想当然。今天的机器人没有自我意识，可以说他们是机器，但对于这样的机器人呢：
http://bbs.deeptimes.org/forum.php?mod=viewthread&tid=2120853

你还要坚持你的观点吗？

ooxx

@费正清 如果你认为道德是高地，是服从利益的，那么我现在为了本人的利益，对你做了什么不道德的事情，你会自认倒霉么？想你不会。也许你会报复，但你已无权谴责与我，因为你认同利益高于道德，我只是与你相同的行事方式而已。

你希望我们以野蛮的方式解决分歧吗？你希望我们变得原始吗。

人类社会不是丛林世界，文明发展到今天，道德已是人类社会最核心的价值和行为准则，道德的最本质就是用来维护群体以及个人的利益权益的最大化，保证了社会秩序，是人类文明进步的动力之一。

费正清

ooxx 发表于 2012-8-29 12:56
@费正清 如果你认为道德是高地，是服从利益的，那么我现在为了本人的利益，对你做了什么不道德的事情，你会 ...

如果你认为道德是高地，是服从利益的，那么我现在为了本人的利益，对你做了什么不道德的事情，你会自认倒霉么？想你不会。也许你会报复，但你已无权谴责与我，因为你认同利益高于道德，我只是与你相同的行事方式而已。

你希望我们以野蛮的方式解决分歧吗？你希望我们变得原始吗。

人类社会不是丛林世界，文明发展到今天，道德已是人类社会最核心的价值和行为准则，道德的最本质就是用来维护群体以及个人的利益权益的最大化，保证了社会秩序，是人类文明进步的动力之一。

似乎我应该清楚表明观点，以防科幻问题跑到现实中来  ----  AI是人类可怕的潜在的竞争对手，在和AI博弈时大谈对非人智慧的“道德”关怀会威胁人类利益。对任何有自我意识萌发苗头的AI 和 已经产生自我意识的AI都应该立即杀无赦，我既不认为碾碎有自我意识的AI的软件结构或物理载体有什么道德问题，也不认为“奴役”有自我意识的AI是个违反某些价值观的行为(当然，我认为让它们存在就是一个错误行为)，在和AI博弈时在道德上夸夸其谈无助于人类文明进步，因为人类文明得先存在然后才能谈进步与否，而和人类智慧相当或者很容易更高的AI对人类文明的存续有巨大的潜在威胁。

ooxx

费正清 发表于 2012-8-29 14:26
似乎我应该清楚表明观点，以防科幻问题跑到现实中来  ----  AI是人类可怕的潜在的竞争对手，在和AI博弈 ...

你的出发点就是错的。“AI是人类可怕的潜在的竞争对手”，请问你是如何得出这个结论的，难道是从科幻片。

发现贵党人士都不喜欢讲道德啊，都喜欢讲利益。

费正清

ooxx 发表于 2012-8-29 14:34
你的出发点就是错的。“AI是人类可怕的潜在的竞争对手”，请问你是如何得出这个结论的，难道是从科幻片。 ...

你的出发点就是错的。“AI是人类可怕的潜在的竞争对手”，请问你是如何得出这个结论的，难道是从科幻片。

发现贵党人士都不喜欢讲道德啊，都喜欢讲利益。

倒不是来源于科幻片，简而言之，本来让你当奴隶(或者说 工具 更为恰当)，你却有了造反的能力(甚至掉头奴役我的能力)和独立自主的思维，是可忍孰不可忍？

贵党是什么党？ 我是无党派人士，你在第一句话问我"是如何得出这个结论的"，后一句话就没来头的得出结论让我入了贵党，前后很是不一致。

费正清

出发点就是：AI的能力+AI的自我意识。

我们无法承受 这样的AI和我们做对 这个可能性所带来的风险