创造出超越人类智能的AI会发生什么？丨专访斯图尔特罗素

如果我们创造出了达到或者超过人类智能水平的人工智能（AI），会发生什么？人类会成为自己发明的受害者吗？在不远抑或是遥远的未来，人类与机器人可以和平共处吗？人类有一天，会向机器人乞讨吗？在2017年，《纽约客》杂志的一幅封面画引发了一场有关于人类与机器人的大讨论。而今，由人工智能引发的争论正在变得比当时更多也更加激烈，这其中既有技术的纷争，也充斥着伦理和法律的博弈。

      

《纽约客》杂志封面画（2017年10月）。基库约翰逊（R. Kikuo Johnson）绘。插图对应的封面文章名为《黑暗工厂》（Dark Factory），描述了密歇根州大急流城Steelcase金属厂中一些被称作“人肉机器人”的工人的故事，在这家公司，越来越多原本由人类从事的工作都被机器人取代。在这幅由基库约翰逊（R. Kikuo Johnson）绘制的封面画中，年轻的人类乞丐坐在未来的曼哈顿街头乞讨，路上穿过的形形色色的机器人“上班族”和“行人”则向他手中的杯子里投掷着螺丝和垫片，他身旁的小狗也“目瞪口呆”地注视着面前通过的机器狗。

不可否认的是，人工智能正在成为日常生活的一部分虽然它在即将过去的2020年并未取得重大突破，但显然，它已经切实改变了每一个人的生活。对于熟悉科幻小说、影视作品的人们来说，其中虚构的未来，可能正是我们所身处的现在。人工智能生态系统、无人驾驶汽车、智能个人助理、家用机器人……蓬勃发展的人工智能通过智能手机、家电、汽车等终端深入家庭、企业和各种公共设施，它是当下的普遍现象，更是未来的主导技术。

在人类尚未进入技术时代开始，有关机器人的想象就大量存在于文学和戏剧、影视作品之中。起初，人们担心人工智能会背叛人类机器会因为更加聪明（智能）而反抗人类，甚至消灭人类。

比如在根据科幻大师阿西莫夫短篇小说改编的电影《我，机器人》中所探讨的正是人与机器之间的关系。影片中，机器人具备了自我进化的能力，它们随时会转化成整个人类的“机械公敌”。而“终结者”系列，探讨的同样是机器人毁灭人类。为人工智能赋予人类的感情，衍生的又是一个全新的故事。史蒂文斯皮尔伯格导演的《人工智能》中，机器人小孩大卫试图寻找自己的生存价值：渴望变成真正的小孩。

这些故事塑造了我们对人工智能的认知，阿西莫夫创作的“机器人三大定律”也因为这些作品的一再表述而成为我们看待机器人的“标准”信条。但在斯图尔特罗素（Stuart Russell）看来，这或许反而成为了人类的某种误区，比如让人工智能“服从人类”显然就是个坏主意。

      

斯图尔特罗素（Stuart Russell）（版权：Peg Skorpinski），加州大学伯克利分校计算机科学家，人类兼容人工智能中心（CHAI）主任，人工智能研究实验室指导委员会（BAIR）成员。世界经济论坛人工智能和机器人委员会副主席，美国科学促进会（AAAS）会士，美国人工智能协会（AAAI）会士。罗素获得过多项科学荣誉，包括美国国家科学基金会总统青年研究员奖、国际人工智能联合会议（IJCAI）计算机与思想奖、国际计算机学会（ACM）卡尔斯特朗杰出教育家奖等，并受邀在TED、世界经济论坛演讲。

一个极端的案例是，如果人类赋予机器人一个错误的或者存在漏洞的目标，这可能是致命的。假如我们希望通过人工智能系统控制气候变化，并为其设定将大气中的二氧化碳水平恢复到工业革命前水平的命令，这一系统很可能会得出消灭人类的结论因为人类活动是产生二氧化碳最主要的来源。即便人类为此附加条件不能消灭人类，人工智能系统也可以会以说服的方式让人类少生孩子，直到人类自然灭绝。

身为美国加州大学伯克利分校计算机科学家的斯图尔特罗素，是当今世界上人工智能领域的权威专家，他曾与谷歌研究总监彼得诺维格合著出版了人工智能领域里的“标准教科书”《人工智能》，该书被128个国家的1400多所大学使用。就在今年二月，他已经完成了该书的第四版。

今年十月，斯图尔特罗素的著作《AI新生：破解人机共存密码人类最后一个大问题》引进出版，在这本书中，罗素提出了一个问题：如何破解人机共存的密码，使得人类可以掌握比我们自身强大得多的智能？在过去相当长的一段时间里，人类之所以能控制地球，是因为人类的大脑比其他动物的大脑要复杂得多。而这正是因为“智能”，是一种权利。因此，罗素更为关注的，是对于这些比我们更强大的机器，如何保持绝对的控制权？在新京报记者对罗素的采访中，他回答了一些关于人工智能我们所关心，或者未知的问题。

      

《AI新生：破解人机共存密码人类最后一个大问题》，［美］斯图尔特罗素（Stuart Russell）著，张羿译，中信出版社2020年10月版。

超级人工智能的成功可能意味着人类的毁灭

新京报： 是什么促使了你创作《AI新生》？最想告诉读者什么？

斯图尔特罗素：我写作的核心目的是如何理解“控制”的问题如何永远控制比我们强大的机器，并为此提出一个切实可行的解决方案。我希望可以获得帮助，改变这一领域的现状让政府、工业界和学术界合作并非易事。

新京报：我们应该对人工智能持以什么样的态度？在许多科幻小说中，我们看到人工智能对人类的抵抗，这种抵抗来自于它们开始有自我意识，但你认为我们应该更担心它们的能力这显然是人类赋予他们的。我们应该如何理解它？对于人工智能时代的到来，显然大多数人充满了期待和恐惧。

斯图尔特罗素：目前对人工智能的思考方式，我将其称之为“标准模型”。也就是说，我们赋予机器以最佳方式去实现目标的能力，然后给予它们一个目标，它们开始运行。当定义了一个错误目标时，就会出现问题，现实情况中总会出现这样的状况。在许多文化中，都有着类似的传说：一个人被赐予三个愿望，而第三个愿望，总是会推翻前两个愿望因为它们毁掉了一切。

来自机器人的“阻力”并非来自意识，而是机器人会追求我们所赋予它们的目标，而这可能会与我们真正想要达成的目标产生冲突。我们当然可以试着停止机器，或者彻底关闭它。但是，如果它们比我们更加聪明，这也许会成为一个不可能完成的任务。

如果我们编写了一个智能程序，它的行为方式就会完全由代码决定，这个时候，人工智能是否有意识，对于即将发生的事情并不会产生任何影响。当然，我们也完全不知道如何去制造一个拥有自主意识的人工智能，也不可能知道我们是否已经制造了一个。

人们之所以会关注（偶然）创造意识，主要原因是因为拥有自我意识的机器也许应该拥有一些特权，而这将使人工智能研究者以及其他人的生活变得非常复杂。想象一下这样的场景，你的烤面包机正在与冰箱进行着关于生命意义的精彩对话时，你拔下了它们的插头，然后因此被送进了监狱。

      

电影《人工智能》剧照。故事发生于21世纪中期，由于温室效应，南北极冰川融化，地球上很多城市被淹没，人工智能机器人就是人类发明出来用以应对恶劣自然环境的科技手段之一。在影片的设定中，机器人制造技术已经高度发达，先进的机器人不但拥有可以乱真的人类外表，还能感知自身的存在。

新京报：我们到底应该如何理解“人工智能”这一概念？在《AI新生》中你提到，超级人工智能的成功可能意味着人类的毁灭。

斯图尔特罗素：粗略地讲，如果一个实体是智能的，它就会根据它的感知来做事情，而它所做的事情是为了满足它的需求。我们可以用一种很自然的方式来理解它的含义：“智能”意味着以一种可以预期的方式来实现一个人的目标的能力。智能包括了多种能力：比如推理、学习和交流能力，都可以理解为对这种能力的贡献。

对于人类而言，智能是一种非常好的能力。不幸的是，“人工智能”这一概念的框架形成于上世纪四五十年代间，而这也成为我们今天对人工智能的理解。这也正是我在前面所提到的“标准模型”。当然，机器本身并没有自己的目标，这些目标都来自于人类的设定。如果我们设定了错误的目标，就会导致失败。

如果你仔细思考一下，就会发现，创建一个可以自主追求并设定固定目标的机器是没有意义的制造出能够实现自己目标的机器就更没有意义了！我们应该制造那些只能够帮助人类实现目标的机器，即使它们并不能理解这些目标到底是什么。

人工智能很快就可以创作出具有创造性和吸引力的作品

新京报：人工智能究竟会如何改变我们的未来是一个非常热门的话题。如果我们制造出比人类更为智能的机器，将会发生什么？你心目中的人工智能时代是什么样的？

斯图尔特罗素：如果可以成功创建出那些安全、有益的人工智能系统，我们将会获得几乎难以想象的好处，这些好处来自于运用更为强大的智能来推进人类文明的能力。我们将从数千年来，作为农业、工业和文书工作的奴役中解放出来，能够自由、充分地发挥和利用生活最大的潜力。站在这个黄金时代的有利位置上，回顾我们当下的生活，可能正如托马斯霍布斯（Thomas Hobbes）所想象的那样：充满着孤独、贫穷、肮脏、野蛮和短暂。

      

电影《2001太空漫游》（1968）剧照。故事设定开始于2001年，为了寻找黑石的根源，人类开展一项木星登陆计划。飞船上有冬眠的三名宇航员，大卫船长、富兰克飞行员，还有一部叫“HAL9000”（赫尔）的高智能电脑。

具体来说，这样的人工智能系统，可以让我们把地球上每一个人的生活水平都提升到一个像样且体面的程度；每一个人都可以获得一位私人导师来指导他们的成长；每一个在目前看来昂贵、困难、进展缓慢甚至（在世界某些地区）无法得以实施的社区项目都会变得可行。

（编辑：宿州站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!