编者按:技术真的是中性没有意志的吗?在Alphago再次击败李世石之后,人类将如何面对人工智能如果技术有意志,那么它将会引领我们奔向何处?作者台伯河,对技术的意志做了探讨,作为一家之言,文章有很多值得思考的地方。如果你也是技术出身,有不同看法,可留言或给编辑投稿(zhuanlan@leiphone.com )参与讨论。

我是『阿爾法』,也是『歐米伽』;是首先的,也是末後的;是開始,也是終結。

——啟示錄 22:13

Singularity is NIGH.

AlphaGo战胜李世石之后,已经有人高呼:“奇点已然到来。”至少我们可以承认,奇点正在临近。那么奇点是什么意思呢?

“技术奇点”的概念是基于人类科学进步的一个自然观察:总的来说,人类的科学进步的速度是越来越快的。

人类从学会使用工具到进入农业时代花了数十万年的时间;

从农业时代到蒸汽机用了上万年时间;

蒸汽机到电气时代,不过200年光景;

电气时代到目前的信息时代,也就不到一百年。

这说明人类的科技进步速度是一个加速度,或者按照某些理论,是呈指数发展的,那么可能在不久的未来,人类的科技的进步将会快到这样一个程度,在之后技术将会变得与之前完全不同,就跟数学上的概念“奇点”一样,这之后的世界将完全无法预测。

技术奇点将以一个什么样的形式到来呢?从目前来看,人类的科技发展的主要方向有三个:生物,能源和信息。这三个领域中的任何一个产生了突破,都会导致奇点的到来。在生物领域,人类如果能够彻底的搞清楚生物的秘密,突破进化的限制,最终将生物世界和人类自己塑造成任意的形状,那无疑是技术奇点的产生;在能源领域,人类如果最终发现了核聚变或者比此要更加先进的,近乎无限能源的产生办法,那么科幻迷们常常爱说的“星辰大海”的时代就会到来,人类会突破地球的重力井,扩展到星际之间,那也是奇点的一个产生方式;而在信息科学领域,人类最终制造出了人工智能,它的智力必然会远远超过人类自身,技术奇点也会到来。这个过程还有另外一个称呼,叫做“超人巨变”。

Alphago战胜人类,或许只是开始 Alphago战胜人类,或许只是开始 AI资讯 第1张

计算机的性能是一条指数发展的曲线

从目前的科学发展来看,生物或者能源科技的突破需要基本理论的革命性突破,就如同当年相对论和量子力学的产生或者DNA的发现那样的突破,而这样的突破目前来说还没有任何先兆。相比于生物或者能源,信息科学领域是最有可能产生奇点的,因为最能够支持“奇点”理论的就是计算机科学的进步。著名的摩尔定律:“每十八个月芯片的晶体管数量会增加一倍,价格降低一半”就是一个标准的指数定律,而现实中计算机性能的发展也很好的符合了摩尔定律的预测。在未来学家Ray Kurzweil的那本《奇点临近》里,作者就举出了很多的指标说明我们现在处于指数发展的一个平缓期;到了一个临界点之后,指数发展会变成近乎于无穷大的斜率,技术发生了爆炸,人类社会就进入了“奇点”时代。

而奇点的到来对于人类是不是个好消息?很不幸,大多数的未来学家都对此持悲观态度。超级智能产生之后,“增进人类的福祉”这一项很有可能并不包括在它的目标里。就算是包括了,人类自身对于所谓“人类的福祉”究竟是怎样的一个范畴都会有争议,就更别提让超级智能来决定如何增进人类的福祉了。在它“优化”世界的这个过程中,人类很可能会像遇到了先进欧洲文明的美洲文明一样被消灭掉,只是这个过程会更快,更无情(几个小时到几周时间);而人类在这个过程中甚至都不会像《终结者》里的那样,还有能力组织一支反抗军;在这个过程中人类连一丝一毫的机会都不会有。

Alphago战胜人类,或许只是开始 Alphago战胜人类,或许只是开始 AI资讯 第2张

Transcendence这部电影大概是第一部描写“超人巨变”过程的电影。当然,最不科学的是,人类赢了


所以Elon Musk三番五次的警告我们:要警惕人工智能!自从核弹的发明,我们头一次的发现,原来技术有着毁灭人类的危险——而人工智能可能是下一项有着这种危险的技术。奇点的到来对于人类而言,我们要么进入天堂,要么落入地狱,这中间很可能并没有中间状态。

但是我们是否能够阻止奇点的到来?结论同样是悲观的:技术有其自己的意志,我们甚至没有办法去阻挡奇点的到来。在这里我们不妨来回顾一下历史。

生物学家道金斯曾经写过一本著名的进化论科普书《自私的基因》。这个书名曾引起极大争议:基因无知无识,怎么能够“自私”?在书里他反复说的事情是:基因没有自己的意志,当然不会“自私”;但是从表现来看,基因是“自私”的,因为只有能够最大限度的保存自己的基因才能够留存下来。所以,这里的“自私”不是个性上的自私,而是为了方便描述才用的词汇对基因进行一种唯象风格的概括。

这就和技术的描述很类似了:技术是一种客观的存在,它怎么可能有自我意志?

大概没有人会否认人类的发展是依靠的技术。环绕四周,既然我们没有住在山洞里吃生肉,我们看到的都是技术的产物。人类将自然界改造成人类想要的形状,运用的就是技术。

人类历史上最重要的一门技术是什么?

是农业。在游戏《文明》中,农业是科技树的第一层阶梯。人类发明了农业才走上了攀登科技树的道路。没有农业,我们现在还是在非洲大草原上打猎的猎人。但是这里我免不了要问一句:为什么?

Alphago战胜人类,或许只是开始 Alphago战胜人类,或许只是开始 AI资讯 第3张

人类为什么要发明农业?农业让我们的生活变好了么?

没有农业,大概就没有现在正在坐在电脑前打字的我们,人类还在茹毛饮血。可是,茹毛饮血不好么?

这里我们有必要做一点严肃的人类学研究。人类学家马歇尔·萨林斯曾经认真的研究过狩猎采集社会,结论是:实际上狩猎采集社会并没有现在我们想象的那么糟糕。实际上那会的人类过得相当不错。

根据人类学家的野外调查和考古挖掘,实际上狩猎采集社会中的人类过得挺好——他们在这种环境中进化了数十万年,已经完全适应了环境。他们平均每周只需要劳动30个小时就可以收集到足够的食物;他们的婴儿死亡率很高,但是平均寿命相当长,只需要活过危机四伏的童年,就基本上可以活过四十岁;他们的营养状况也不错,平均身材都相当高大;他们的疾病也很少,因为疾病总的来说是农业社会的结果。总之,从各方面来看,那时的人类生活不错。马歇尔·萨林斯称之为“原初丰裕社会”。

Alphago战胜人类,或许只是开始 Alphago战胜人类,或许只是开始 AI资讯 第4张

《疯狂原始人》海报

然后人类发明了农业。一开始人类只是发现某些植物的种子特别容易获得,味道也不错。然后这些群落开始在固定的时候回到这些植物的生长地去收获这些种子。然后他们开始为这些植物提供更好的生存环境,去除野草,搬开石头。然后他们开始在某个地区定居下来,有意识的将这些植物的种子撒播在土地里,期望能带来更好的收获。一步一步地,人类发明出了农业。

农业给人类带来的是更多的食物和热量。在单位面积上农业所能产出的热量是狩猎采集的十倍以上,这个毫无疑问,是食物链金字塔的一个必然结论。更多的食物和热量带来的是人口的爆炸,农业社会的人口猛增至狩猎采集社会的十倍以上。那么这是不是意味着农业社会的人类要比狩猎采集社会过得更好?事实告诉我们,并不是。

请牢记经济学的基础定律:均衡之下,永无剩余。增加的热量产出必然被人口增长所消耗掉,这是马尔萨斯人口论的基础。实际上,由于人口指数增长而农业产出线性增长,这意味着农业越发展,人均热量反倒越少。目前的考古发掘和人类学研究也证实了这一点:农业社会的人类的人均热量摄入比起采集狩猎社会要低得多。人类的牙齿原本是吃坚果和肉类的,摄入却全部变成了谷物,于是牙齿早早就磨损了,年纪一大就只能等死,平均寿命也变低。人口密度的增加,以及和牲畜的混居导致了疾病的大范围传播。糖尿病就是农业社会的副产物。人类的身体结构本来是进化用来在大草原上追逐猎物,现在却是在农田里无休止的劳作,平均身高变得更矮,寿命更短,病痛更多。

既然农业社会比起狩猎采集社会,给个人带来的更多的是痛苦,那为什么农业社会取代了狩猎采集社会?

其实原因很简单:因为农业社会的人口更多。一个贫弱的农民或许打不过一个强壮的猎人,但是十个贫弱的农民一定可以打过一个强壮的猎人。于是农业社会就这样扩张开来,逐渐将狩猎采集社会驱逐到了这个星球上的偏远地区。

如果将这两个选项摆在你面前:要去当一个农民,还是当一个猎人,你会怎么选?

Alphago战胜人类,或许只是开始 Alphago战胜人类,或许只是开始 AI资讯 第5张

古埃及农业壁画

在于你并没有选择。农业社会所出生的人类,他们一代一代都已经习惯了这种生活方式,并没有办法去想象一种其他的生活方式;各个古老文明的上古神话中总是有一个丰饶而无忧无虑的过去,或许可以视作某种对于狩猎采集社会的集体记忆。那么我们在这里可以总结出这样一个结论:人类从狩猎采集社会进入农业社会,并不是一个主动的选择过程。自从人类发明了农业,人类的发展就已经确定了路径,这样的路径是并非任何一个人,甚至一个群体所能左右的,在这里,马克思的幽灵就在你我耳旁轻声细语:“这是历史车轮。”

决定人类的发展方向的,并非个人或者群体的意志;而是技术本身。

同样的事情也发生在大概一万年后。当英国的军舰来到大清的海岸边,就注定了这是一场大清必输的战争。而之后的历史结论也很简单:能够对抗工业化的,只有工业化。看到这一点的不仅仅是光绪或者孙中山,还包括凯末尔以及一切历史悠久的后进国家当时精英们。工业革命起于大英,就如同农业一样,历史的车轮滚滚碾过,不论你是大清还是土耳其奥斯曼帝国,这对它毫无意义。

Alphago战胜人类,或许只是开始 Alphago战胜人类,或许只是开始 AI资讯 第6张

工业革命中一景

再过了150年,来到了这个所有人都在谈论人工智能的时代。我们能够制造出跟我们一样聪明,甚至比我们更聪明的强人工智能,现在我们还不知道;我们也不知道我们什么时候能知道。但是让我们来考虑一个假设的问题:假设有一个时间穿越者,从2050年穿越回现在,告诉我们,那时候我们已经制造出了强人工智能,并且把我们自身毁灭了,我们会停止开发人工智能么?

回答是什么无关紧要。消费者想要更加智能的手机助理和导航算法;商家需要能够更加精确能够预测消费者行为的智能广告系统;工厂主想要更加智能更加自动的工业设备。这一切都并不是自由意志能够决定的。就算有那么一小群人说他们不会去做,那么下场无非就是被忽视,被会这么去做的人淘汰掉,被历史的车轮碾压过去,一如当初的猎人们,或者大清帝国。技术作为历史的压路机一路往前,在上面的我们自以为是司机,却只是乘客。

所以Elon Musk的大声疾呼和他手头上所做的事情看起来就并不矛盾了。他深知我们这样做可能是一条通往毁灭(或者永生)的道路,但是这并不是他所能够掌控的。

我们经常说,“技术本身是中性的”。但是,我们知道它并不是。自从人类发明了技术,技术就引领我们走向一条不归的道路。

周穆王西狩于昆仑山,遇到了一个大师工匠偃师,制造出了和真人一模一样能够跳舞唱歌甚至能够向宠姬抛媚眼的假人。偃师制造的有可能是人类有史以来的第一个人工智能。制造人是神的工作,人自己来做,是僭越。当年,各地的人们集合起来要造巴别塔直通天堂,上帝觉得这么做根本就和自己把他们当初放在地上的目的完全冲突了,“变乱他们的语言”,于是巴别塔垮掉了。

在最古老的文献之中人类就在梦想着造出与人类一样的机器。到了今天,DeepMind开发出了AlphaGo,制造超越我们自己的智能,做上帝的工作,或者干脆说,制造出神本身,是人类一直以来不断追求的目标。这是人类的意志,也是技术的意志。《普罗米修斯》中机器人大卫问人类:为什么要把我造出来?回答是:因为我们能够。We do what we must because we can.

你們要進窄門。因為引到滅亡,那門是寬的,路是大的,進去的人也多;引到永生,那門是窄的,路是小的,找著的人也少。

——馬太福音 7:13-14

技术的意志会引领我们奔向何处?我不知道。它可能一路通往毁灭,或者通往我们作为一个物种的辉煌的永生,或者哪里都不去。人类的命运是否跟刘慈欣说的那样,在第一次望向星空的时候就已经决定了?或者说,所有的智慧生命的命运都是这样?费米悖论的下一个大过滤器(Great Filter)在哪里?这都不是这一篇简短的文章所能够回答的。