2000年4月,侯世达在斯坦福大学举办了一个研讨会,来讨论这个问题:“到2100年,智能机器人会取代人类吗?”与会者还有比尔·乔伊(Bill Joy)、雷·库兹韦尔、汉斯·莫拉维克( Hans Moravec)、约翰·霍兰德(John Holland)和我自己。这个问题是很严肃的。
我决定通过分析问题中的每个词来回答。
2100年:
当我们回顾历史,尤其是有关科技的历史时,我发现从人类的世代出发大有益处。我粗略估算了一下,大概每25年为一代。人类文明开始于一万年前(最古老的城市耶利哥,诞生于公元前8000年),这使得在耶利哥和世界其它地区,文明能够得以延续约400代,也就是400个从母亲到女儿的生育周期。400代的人类文明并不是很长,如果没有别的事情可做,我们几乎可以熟记这400个周期的名字。经过了400代,我们已经成为了不同于早期的人类。我们产生自动装置和机器人的想法,也许还只在8代前。而两代前又制造出了第一部电子计算机。整个万维网的诞生还不到2000天!按同样的人类寿命计算,距离2100年只有四代远。如果我们在2100年变成机器人,那么文明的人类就只能历时400代。那将是生命历史上寿命最短的一个物种。
人类:
本世纪的核心问题(即中心议题)不是“什么是人工智能?”,而是“什么是人类?”。什么对人类是适用的呢?我预测在本世纪,各种有关“人类是什么”的问题,将成为像《今日美国》这样的报纸经常用到的标题。电影、小说、会议和网站都将设法解决这个核心问题:“我们是谁?人类是什么?”。生活在长期的繁荣里,一切皆有可能,一切皆不确定。对于我们自己的身份,我们的问题总是多于答案。我们是谁?成为一个男性、女性、父亲、美国人或人类,意味着什么?下个世纪将是一个大规模的、全球范围的百年身份危机。到2100年,人们会为现在的我们感到惊讶,因为我们竟然知道人类是什么。
取代:
在自然界,取代是非常罕见的。我们现在之所以拥有二百万个物种,就是因为大多数新物种并不会取代旧物种,它们宁愿与现有的生物体交织在一起,挤在一个小生态环境里,以其它物种的成就为基础。发掘一个新的小生态环境远比取代已被占据的小生态环境容易得多。大多数物种的灭绝不是因为有篡夺者,而是因为其它因素,如气候变化、彗星或自己造成的麻烦。但取代或淘汰人类似乎不太可能,因为我们不知道人类是什么,我们的角色就可能改变,而我们更有可能是重新定义自己,而不是消失掉。
机器人:
总的来说,我喜欢汉斯·莫拉维克的构想:这些机器人是我们的孩子。如何养育孩子呢?我们养育他们是为了不可避免的放手。如果孩子永远不能离开我们的控制,我们不仅会失望,而且还很残忍。要想拥有创新力、想象力、创造力和自由,孩子就需要脱离其创造者的控制。我们心中的孩子——机器人,也一样。难道有这样的家长,自己孩子得不到关心,他一点儿都不担心吗?我们花了很长时间才认识到,科技的力量与自身固有的失控、令人惊喜的能力、具有生产力的能力是成比例的,除非我们担心的技术不够革命性。强大的技术需要责任心。随着机器人具有了生成能力,我们需要更大的责任心。我们应该有目的地培养我们的机器人孩子做个好公民。也就是说,为他们灌输价值观,因而在我们放手时,他们才能作出负责任的决定。
智能:
我们可以想象的最智能的事情是什么?与外星人进行可核实的接触,将动摇宗教的基础。无论外星人给出的答案是什么,都将重燃上帝之问。我认为电影《超时空接触》(Contact)是唯一一部让神学家大放光彩的影片。我们不必等待搜寻地外文明计划与外星人取得联系。我们制造外星人,也就是制造机器人。这样一来,外星人有了另一个名字:人工智能。人们担心人工智能会成为人造人类,这就大错特错了。人工智能更接近于人造外星人。你的计算机在算法上已经比这个房间里的任何人都更聪明了,但我们为什么没有因此而感到威胁?因为它是“另类”,是一种不同的智能,是比我们高级而我们不会特别妒忌的智能。我们创造的智能,包括最聪明的人工智能,都将成为“另类”。事实上,在各种有意识智能的可能性空间里,也存在着两百万种其它智能物种,而不只是我们所知的这一种(人类),它们每一种都像计算机和海豚一样,是独特的、不同的。我们没有任何理由来克隆人类智能,因为制造传统版本的人类非常容易。在新世纪,我们要做的努力就是利用迄今为止所有的智能(人造的和自然的),来创造所有可能的新智能。迎接我想到的这些智能,将是我们现在能想象的最智能的事情。
会:
我认为,科技有自己的议事日程。我经常问自己,科技想要什么?大体上讲,如果说科技是个孩子,甚至说是个青少年,那么这将有助于了解青少年想要什么。我们称为科技的这个系统,它与生俱来的冲动、固有的偏见、内在的驱动力是什么呢?一旦我们知道了科技想要什么,我们就不必对所有这些需求让步,也再不必对任何青少年的欲望让步,但你也不可能完全抵制它们。科技“会”希望这些事情发生吗?我觉得它们希望。我们所了解的科技是,它想更小(摩尔定律),它想更快(库茨韦尔定理),(我猜测)它想做人类所做的任何事情(凯利定律)。我们人类在其它生物中,发现了巨大的价值,并继续在其他智能中发掘。所以,机器人没有理由发现不了人类也有同样的价值。机器人能够或想要做人类所做的一切事情吗?答案是否定的。因为通常我们让它们做我们不想做的事情。那么之后,我们人类做什么呢?第一次,机器人给予了我们力量去说:做我们想做的任何事。
2006年3月15日