编者按,近日GeekWire对西雅图艾伦人工智能研究所(AI2)CEO Oren Etzioni进行了专访,这次对话的背景是一场日常生活AI的热潮,从无人驾驶车辆到掌握围棋的计算机。微软将未来的赌注放在CEO Satya Nadella称作“以对话为平台”的人工智能策略上,让虚拟代理代表我们工作。

这篇文是《专访艾伦保罗:机器与人性的未来(上)》

对话艾伦人工智能研究所CEO:机器与人性的未来(上) 对话艾伦人工智能研究所CEO:机器与人性的未来(上) AI资讯 第1张

Oren Etzioni,艾伦人工智能研究所CEO。图片来源GeekWire。

人工智能看起来是一个非常未来感的概念,但是你可能没有意识到,我们已经在日常生活中实际体验人工智能了——包括语音识别、垃圾邮箱过滤、甚至贷款处理。人工智能从此只会越来越复杂。

相比其他人,Etzioni对AI抱有更为乐观的态度。“生存危机太夸张了。”他说,“就我们所知,小行星撞击地球毁灭人类,也比AI黑化概率更高。这不太可能,是未来几百年的事情。“

Todd Bishop: 在你目前的位置你对AI的情况有真实的了解。我认为很多人在日常生活中都看到AI非常原始的形态。他们在手机上使用Siri,他们在看谷歌Deep Mind打败围棋世界冠军。人工智能的潜能以一种很基本的方式显现出来。我们目前在人工智能处于什么阶段,你认为接下来三到五年人工智能会往什么方向发展?

Oren Etzioni:我的确认为人们使用AI的程度比他们认为得更频繁。除了类似Siri的虚拟助理,谷歌搜索一直在使用人工智能和机器学习。无论是安卓还是iPhone手机的语音命令都有巨大进步,背后是使用了机器学习来提升语音识别。现今贷款申请处理经常是通过机器学习以高度自动化的方式进行。还有信用卡诈骗,Gmail垃圾邮件监测。

事实上,人工智能越来越随处可见,融入到我们的生活中。当然,这对人们来说有点吓人。“等一下,是不是会出现天网和终结者了?“之类的问题。首先我想安慰人们,虽然AI的使用越来越普遍,由于非常多的原因,我们距离天网和终结者还远着呢。

事实上,我们的AI使用范围非常有限,例如垃圾邮件或非垃圾邮件。Bing在不同环境下预测这是国家橄榄球联盟还是其他东西。我们现在还没有所谓的人工综合智能。基本上那种软件可以做我五岁小孩能做的事情。我的五岁小孩比任何人工智能软件都聪明,包括比最近打败世界冠军的AlphaGo都聪明。

对话艾伦人工智能研究所CEO:机器与人性的未来(上) 对话艾伦人工智能研究所CEO:机器与人性的未来(上) AI资讯 第2张

图片来源GeekWire。

电影中的AI

TB:你提到了终结者。有没有一个最近新出的电影能够准确描绘AI的现状,或者未来的趋势?你看过哪些更加新的电影吗?

Etzioni:我尝试看完所有的电影,因为首先,很好看,其次,我感觉我需要知道在大众文化中我们是什么形象。我会说我最喜欢的电影大概是《她》,因为电影更多的是关于人际关系。AI只是用来当做基底。我会说好莱坞和很多人都没有真正把握AI领域的进展。

真相是,在任何一个能够运行的AI软件背后,首先,是真实的人类,其次,是血汗和眼泪。这不是像电影《她》或《机械姬》中突然出现的事物。这是非常复杂和微妙的对话。第一,这非常不同。第二,这些电影是所谓的反乌托邦,对吗?他们都比较负面。《超验骇客》里面,约翰尼·德普掌控了世界,我们努力想把他关闭,但是关闭不了。当你在AI的战场上,实际并不是这样的。

John Cook:围绕AI有一些负面观点,甚至一些科技领袖都出来反对它,说这实际是有潜在危害的。你们在这些讨论中得出什么结论?你如何解释这个问题,让它对社会有积极的益处?

Etzioni:这是个很好的问题,我会说有三点。第一点,这个概念是生存性危机。AI会接管世界。这根本没有基础。实际上,我们从没看到AI做任何事情,除了非常具体的任务。甚至你想一想最大的成功之一,无人驾驶汽车,他们的自动化程度也仅限于能带你去你的目的地而不发生车祸。根本不是一大帮无人驾驶汽车突然集结起来,占领白宫或者市政府。

JC:虽然人们会希望那样。基于现在大选的情况,我不知道。

Etzioni:我没有说国会,那是另一回事。如果国会的人被AI取代,这已经是一种进步。我们不往那个方向走。这是第一点,生存危机太夸张了。我们了解到的小行星撞地球毁灭生命的几率,都比AI黑化更高。这不太可能,是未来几百年的事情。

不过第二点是一个实际的担忧。我没那么乐观,认为“万事大吉”。关于就业,很多人都有实际的担忧。自动化一直在影响就业,包括实现外包和离岸等等。我的确认为,我们应该现在就开始讨论研究AI对就业的影响。我认为这是一项重要的讨论。

第三项是你说到过的对社会的益处。基于对AI对就业的影响。答案是,它有非常巨大的潜在益处。例如,在AI2,我们有一个项目叫做语义学者,最终将帮助科学家、医疗研究员、甚至医生们得到所需信息,救治人们的生命。

另一个例子是无人驾驶车。我们想要无人驾驶车的最大原因是想预防事故。每年高速公路上都有超过三万起死亡事故。受伤或残疾的数字则更多。注意力不集中的小孩也在路上开车,边发短信边喝酒。还有酒驾的问题。所有这些问题都能大大减少,如果我们在汽车里有AI。

TB:关于自动驾驶车,你现在愿意坐吗?

Etzioni:我确实坐过。我试驾了一次特斯拉,然后我打开了无人驾驶模式。基于我对AI的了解,我的双手一直不敢远离方向盘,简直吓坏了。销售员一直说“放松,放松,没事的”,我说:“不不,我不放松,我吓坏了。”几分钟后,她说:“额,你还是把一下方向盘比较好。”我说:“为什么?我刚刚舒服一点。”她说:”额,因为我在显示器看见AI在镜头之间没有发现一个大的障碍,你可能会出车祸。“我说:”哦好!”

TB:在艾伦研究所,你们一直在突破。能不能给我们更新一下,你们现在又多少人,已经实现了哪些不同的里程碑?

保罗·艾伦的人工智能愿景

Etzioni:当然。一切始于从保罗·艾伦和他的愿景。当然很多人都知道他,知道他的海鹰队等等的,但是…

TB:你说的是微软的联合创始人吗?

JC:是的,真的,也是微软的联合创始人。

Etzioni:那个小细节。

JC:也许他在这里或哪里有一个AI启发的橄榄球队。

Etzioni:在海鹰队里他们使用了各种各样的技术,但是他在科技慈善界也具有巨大远景。当然,有艾伦大脑科学研究院,现在已经有几百人。还有艾伦细胞科学研究院。我们喜欢叫自己AI2因为我们是在大脑研究院之后。这是基于他对AI的热情。

我们始于2014年1月1日,现在大约有50人,实际上我们正在大规模招聘。我们计划在下一年增加到大约75人。我们在弗里蒙特的办公室刚刚新增了一些空间。我们增长的原因……很多人说这是AI的春天。

TB:你们正在招聘什么样的人?面对传统程序员和工程师的人才市场对现在雇主来说非常困难。你们是在那个人才库中招聘,还是在不同的人才库?

Etzioni:招聘竞争很激烈。你绝对正确,但是我们有一些与众不同的地方。首先,有人和我说:“谷歌有3000个出色的工程师。”但是他们没有3000个有趣的问题。我们希望招聘的人是,对AI非常感兴趣,对做新的事物非常感兴趣,而不是在大公司维护软件,解决实际上没那么有趣的技术问题。

那为我们吸引了一部分人。还有一些人是使命驱动的。我们的座右铭是AI服务大众。我们在研究AI可以如何帮助社会。我们在研究前沿,而不是深度学习的一些变化模式或者其他什么的。那已经从研究领域吸引了一批人。我们的研究员和工程师并肩工作,这对双方来说都很有趣。

AI比初中生聪明吗?

TB:你们做的其中一个项目实际上是试图让AI达到八年级(译者注:相当于中国初二学生)的水平。是这样吗?你能介绍一下这个项目和你们的进展吗?

Etzioni:我想指出的是,我不是为了抢小孩子的饭碗,或者甚至创造一个考试的作弊机器……

TB:这两者都没啥问题。

Etzioni:说得对。好,我们不是以童工为目标。问题是下面这样的。人们对AI没有理性的预期。有一些人吓坏了,这种恐惧太夸张了。外面有各种各样的预言,例如3年后律师就会失业。同样,有一些人觉得这没啥不好的。我们希望让对话回归理性,我们要拿八年级的科学测验给机器来做。

我们不是直接把题目给电脑,而是设立了一个5万美元的奖项,寻找世界上任何想提交建造自己软件的人,来训练测试题和进行测试。几千个团队参与了。其中800人提交了结果,胜利者在2月份宣布。有趣的是,没有任何一个在八年级测试中能够达到60%以上的正确率。

TB:所以基本上是打D了?

Etzioni:就是这样。今天,最先进的AI也只能在八年级测试中拿到D,因为那需要理解复杂问题,融合科学知识与常识。那需要理解语言和图表。这让人意外的困难。这是一个非常非常有趣的矛盾。实际上对孩子来说简单的事情,甚至是在测试里拿C对机器来说也是很难的。对人来说困难的事,例如成为围棋世界大师,机器已经能够超越。

TB:是不是因为这与语言有关,语言与非常多因素有关,而围棋中,机器在解决的问题是在有限范围内的?

Etzioni:非常正确。围棋,是黑白分明的,这是一个双关语。

TB:这是一种传奇的中国游戏,与象棋类似,但是比象棋复杂得多。

Etzioni:象棋的棋盘是8x8,而围棋的棋盘是19x19。它可能的走法更多。他们说围棋的走法比宇宙中的原子数量还多。我不知道他们怎么研究出宇宙中有多少原子,但是他们说大约原子的个数大约是10的80次方,围棋的走法是10的170次方。这比Donald Trump(译者注:美国共和党总统参选人,发表过很多富有争议的言论)的侮辱性言论和夸夸其谈还多。

TB:我们今天一直在吐槽政治。你怎么看?这是谷歌支持的软件AlphaGo打败了世界顶尖围棋选手。这对人类来说是一个里程碑吗,因为这是人类创造的AI?或者这对机器是一个里程碑吗,因为机器是赢家?你的结论是什么?

Etzioni:我真的认为这是人类智慧的胜利。一方面,我们有天才李世石,另一方面,我们有谷歌和DeepMind的出色研究员工程师,花了巨大的努力建造了如此成就的软件。他们的成就是站在前人的肩膀上。我想说AlphaGo的成功有50年的基础,因为他们在韩国比赛,比赛总是在晚上进行,但是他们是以可追溯到50年代、60年代和70年代的技术为基础。这真的是很多人智慧的结合。

TB:当你回顾的时候,你认为人类未来对抗机器有成功的可能吗?某个时候,任何机器都可能是世界冠军。我这样想对吗?

Etzioni:人类在这种离散的、终究是人工的棋类游戏中是没有胜算的。机器会胜利。当你看一些更微妙的事情的时候,不论是广播或者电台节目、采访某人或简单到理解自然语言。阅读生物课本,回答课本后面的问题。结果机器在这些领域非常非常落后。语言、知识、推理,非常难。

TB:如果你看看AI2,你自己的机构,未来三年的成功会是什么?

Etzioni:我们为自己定义了非常具体的目标。这是我们和大学的一个区别,大学为了好奇心而研究。我们未来三年的目标包括,增加为科学研究使用语义学者或者基于AI的搜索引擎的人数,推出神经科学研究的语义学家,这我们会在2016年进行,还有扩展到其他生物科学领域。另外,我们还希望提高例如科学测验的测试分数。

via GeekWire