按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
问题1 人工智能发展的时间问题
问题1。 “时间问题——如果人工智能发展得太快以至于关于人工智能的辩论来不及展开将怎么办？”
在所有我收到的问题里面，这个问题是让我考虑得最多的。我认为，这是一个基本的批判意见。这个问题是如此重要以至于我在第6章讨论“奇点”的时候已经涉及到了。本质上来说，这里所争议的是，如果人工智能的崛起太快了，就没有足够的时间在社会上产生的宇宙主义－地球主义的分化，因此，本书的这个论点不成立。没有这样的分化，将不会有人工智能辩论，也没有人工智能战争。
来信
亲爱的德·加里斯教授：
通过CNN（美国有线新闻台）网站的一个链接，我最近接触了您的《关于超级智能机器的道德困境》的文章。我着迷于阅读这篇文章，虽然我在这些领域不是一名专家，我敢说在大多数方面我赞成您的观点。然而，有一点让我感到有些前后不一致，请您原谅我这样说。这点就是您对于“地球主义者”和“宇宙主义者”的看法。要产生两派之间的争斗，制造电子大脑的一派应该已经获得了某种进展，也许电子大脑已经存在了。这就是我在您的论文里发现的矛盾之处。被宇宙主义者保护和培育的人工智能机器的存在不会使两派之间的争论显得多余吗？我同意您的观点，那就是电子大脑将以指数速度发展进化。因此，它们是否会发展成对人类充满敌意的物种问题马上就会有答案，以至于“宇宙主义者”和“地球主义者”的主要智囊们没有机会来完成他们的论述和争论。这将发生在他们考虑发动战争之前—— 假设这些“人类”智囊们是合理程度的文明。我希望我的看法不会以任何方式冒犯您，并且我将很愉快地聆听您对于这个问题的看法。
回答
我赞同你的主要观点。我把这点重新表述为——“如果电子大脑（人工智能）以（快速的）指数速度进化发展，也就是说在未来几十年内达到或超越人类的智慧级别，那么将没有足够的时间产生地球主义者－宇宙主义者的冲突，人工智能战争也不会产生。”我确实认为人工智能是以指数速度进步的，但是不至于如此的迅速以至于没有足够的时间产生人工智能的辩论和发起人工智能战争。
我认为其中的原因是由于制造真正人工智能的任务是非常困难的，并且可能需要几十年的时间来完成。在目前，我们对于人脑的工作原理、记忆的本质是什么、思维是什么、我们是如何推理等所知甚少。在人脑内有千万亿个神经键（神经元之间的联系），清楚地表明人脑结构是如何的超级复杂。我猜想，关于人类在神经科学研究领域的进步最现实的情景就是，从现在开始将至少需要50年的时间来在人工大脑制造上取得真正的进展，但之后的进展将相对缓慢（虽然也是指数级别的）。
我认为，早期的人工智能机器所表现出来的智慧足以引起地球主义者的警觉。像我这样的一些人将会提醒大众某些事情即将发生，但是我认为之后的进展将不会非常迅速，因为对于大众来说，反应的时间将非常有限。当公众从他们的家用产品中看到智能的真正迹象时，将不需要很多年的时间来反应。我认为对于公众和政府来说，如果他们真正地察觉到对于他们的物种支配甚至生存存在着真正的和强烈的威胁时，5到10年的时间将足够让事情有所进展。
同样，当那些有意识的大脑制造者们认为实验室内的进展证实威胁确实存在的时候，他们将毫不迟疑地警示大众。例如，我，倾向于让公众清楚地了解世界上人工智能的发展现状，即使它们目前还处于比较原始的状态。大脑研究制造者们处于这样的一个位置，能够第一个知道正在发生些什么，因为正是他们在制造这些东西。
我认为从道德上来说，我们有一种义务来告诉公众正在发生着的某些事，以便公众有时间来反应，来防止如此的情况发生，即人工智能的指数级别的智慧增长曲线比大脑制造者的预计还要迅速。我同样认为大脑制造者们应该现在就警示公众，而不是等待人工智能机器拥有真正智慧的第一个征兆出现。这样就可以给予公众更多的时间来反应，但是当然，如果公众看不到真正智慧的证据，那么，他们会认为研究者们是在喊狼来了，且因此忽视他们。
大脑制造者们需要告诉公众指数曲线的特征，那就是在水平轴上每一单位的增长对应垂直轴上高度的两倍增长。这样的曲线可以开始得非常缓慢并且在低水平上保持很长的时间，然后突然快速增长。举个例子，考虑下面的“倍增”曲线图，它列举了对于水平轴上每一单位在垂直轴上的高度—— 0。1，0。2，0。4，0。8，1。6，3。2，6。4，12。8，（都是小值，但是……）25。6，51。2，102。4，204。8，409。6， （开始攀升）819。2，1 638。4，3 276。8，6 553。6，（开始暴增）…104 857。6，209 715。2，419 430。4，（爆炸性的数字）…（无穷大！！）
如果介于a）人工智能的最初迹象和 b）爆炸性指数级别的人工智能增长之间（称作“爬升阶段”）只是几年的时间，那么，将不存在人工智能的辩论和人工智能战争（除非是爆发了人类和人工智能机器的物种主导之战）。但我认为，由于大脑制造本身的复杂性，这段时间，即所谓的“爬升阶段”，将有几十年之久。这对于公众来说将有足够的时间来反应、来辩论，并且形成宇宙主义和地球主义的分化。
问题2 什么是半机器人
问题2。 “那么第三群体—— 半机器人是怎么回事呢？”
相当多的人写电子邮件给我，说我在人工智能辩论中对于第三类人，即除宇宙主义者和地球主义者之外的所谓的“半机器人”（生控体系统）的重要性低估了。半机器人是一种半人半机器，也就是说通过附加人工智能计算机成分到其大脑的生物。下面是对于此种人类的经典评论。它出现在把人脑的内容下载到人工智能机器的思想之后，并且从此来观察人工智能的发展。
来信
亲爱的德·加里斯教授：
我以浓厚的兴趣阅读了您关于人工智能的大作（《关于超级智能机器的道德困境》）。诚然，作为一个不够格的评论者，我认为第三类群体（或者说是小群体），也就是半
机器人，它们的重要性被低估了。对我来说很显然，随着越来越多可行技术的发明，人类将准备在思维和身体上扩展自身。我预言，将出现一个缓慢的淘汰人类自然形式的过程，从而形成一群不可思议的拥有各种各样重组基因的半机器人。
回答
当我最初思考21世纪人工智能崛起的政治含义的时候，我确实考虑了把社会划分为三类主要团体，而不是两类。也就是说，宇宙主义者、地球主义者（两者都是人类团体）和半机器人（半人半机器）。对此我思考了一段时间，就像前面一些章节所讲的对于妥协的一些衡量，我决定否定它，让问题简单化，也就是说只有两大主要团体。我可以很容易地把半机器人作为子团体而归纳到宇宙主义者团体。
另一个主要原因就是，我预言随着半机器人通过对自身添加更多的人工智能机器成分，它们会变得越来越不像人类而更像纯种的人工智能机器，也就是说没有任何人类成分，地球主义者们将以人工智能机器的身份对待它们，并且像对待宇宙主义者一样仇视它们。我在第5章关于地球主义者“对于半机器人的不信任”的论述中已经提到这些。
第三个理由主要是关于数字的问题。一个小行星大小的人工智能机器将会拥有1040个成分（原子）。这将使人类可怜的1010个神经元相形见绌，以至于那些决定让自己逐步转化成人工智能机器的人类和那些全新制造的“纯种”人工智能机器没有丝毫的区别。因此，去区分人工智能机器和高级半机器人，至少从地球主义者的角度来看没有太大的意义。
然而，我确实同意这样的评论，那就是在转化阶段，即当人工智能机器不是非常强大，并且没有比人类聪明很多的时候，半机器人的总体性能中人的部分与人工智能的部分可以明显区分开来。在这样的情形下，区分半机器人和人工智能机器将是有用的。然而，当人工智能机器在大小和智能（因为更多的智慧通常需要更多的物质）上变得超出一切的时候，这样的区分将变得毫不重要。
来信
亲爱的德·加里斯教授：
当您谈到计算机取代人类的时候，您是否考虑过让人类向智能机器转变呢？那对于我来说更像是一个进化的步骤。那些拥有更加强大的学习和逻辑能力的机器将以我们思维的载体 —— 大脑为思想和记忆的基础。人类可能会觉得自己仍然活在（并且很可能会这样）计算机内部。我从探索杂志上读到了一些报道，介绍在未来50年内人类可能能够把人脑移植到计算机上。我同意您关于人类必须进化的思想，并且我们处于一个可以让人类控制自身进化的重要时刻。我认为，把我们自己的记忆融入到人工智能机器内将有助于进化过程的成功。
回答
正如我在讨论“使人工智能成为可能的关键技术”的第3章中提到的，我认为人工智能的发展有可能用20年左右的时间就可以实现“扫描”大脑，并且将其内容下载到“超级计算机”内来进行分析的程度。也许从现在开始需要50年或者更多的时间，来让扫描的效果足够好从而能够捕捉到完整的人类功能。当然，由于在其内部已经有了一个人脑的等价物，作为载体的超级计算机那时可能已经是一个人工智能机器。这样的超级计算机从功能角度上来看，可以被认为是一个“半机器人” 。如上所述，一旦人工智能机器真正地开始扩展其自身的体积和智能的时候，半机器人（人类）的成分将会减少，直至半机器人成分最终从一个完全的人工智能机器内消失。
然而，这种半机器人的变体有很大的吸引力，它让那些被扫描的人类获得某种程度的长生不老。单单这条理由，大概就会有很多人选择去被扫描。
地球主义者将如何对待包含人脑的“下载”计算机将充满争议性（查看第5章）。一方面，地球主义者对于无实体的，甚至是“全新物质载体的”大脑将可能感到非常恐惧，并且无情地把它们作为怪物来排斥。另一方面，如果这些机器内的人类部分占据主导地位，那么地球主义者们可能觉得它们比完全的人工智能机器要少些不同，并且因此对它们的排斥感要少些。
关于地球主义－宇宙主义主题的半
机器人变异肯定会使我的论题复杂化。你可能会因内容的丰富而更感兴趣，也可能倾向于使问题简单化，目前只是关注于宇宙主义－地球主义的辩论，而把复杂些的问题向后推。当我写本书的时候，倾向于尽量使问题简单，至少一开始是这样的。
问题3 为什么没有甜蜜轻松的前景呢
问题3。 “为什么没有一个甜蜜和轻松的前景呢？”
很多人认为，当我预言人工智能问题将爆发一场战争的时候，我可能太极端了。他们认为人工智能机器和人类应该能够以一种“甜蜜和轻松”的方式和谐共处。举个例子，下面是两个这样的观点。
来信
亲爱的德·加里斯教授：
我读过您的一些关于人工智能的文章，并且我或多或少地同意您的观点，那就是本世纪最重要的辩论之一，将是关于“人类”这个词汇的定义问题。
然而，在您的文章中，还有一篇cnn上的名为“瑞士科学家关于
机器人的《圣经》哈米吉多顿（世界末日善恶决战的战场）之战的警告”的报道中，我认为您夸大了这个可能性，那就是肉身人类和非肉身人类的不同会导致战争。这种下意识的反人工智能情感出现在一些科幻小说中，例如电影《终结者》，并且不值得作为严肃讨论的主题。
我们（超人的/
外星人的/宇宙主义的个体和科学家）应该做的是去强调这点，那就是人工智能机器一旦开发出来，应该被当作奴隶一样去对待，而不应该以我们对待人类一样的尊敬态度来看待它们的存在。
只是由于人类是由猿猴进化出来这一点并不能说明我们应该灭绝猿猴。只是由于另一个个体拥有和你同样的渴望，那就是通过获取和处理资源而生活和制造财富，并不意味着它们对你来说是一个威胁，并且应该死亡。
回答
这种“慷慨的”空洞的观点我认为是很幼稚的，因为它是建立在信任基础上的，�