如果我们创造（zào）出了达到或者超过人类智能（néng）水平的人工（gōng）智能（AI），会发生什么？人类会成（chéng）为自己发（fā）明的受害者吗？在不远抑或是（shì）遥远的未（wèi）来，人类与机器人（rén）可（kě）以和平共处吗（ma）？人（rén）类有一（yī）天，会向（xiàng）机器人乞讨（tǎo）吗？在2017年，《纽约客》杂志的一幅封面画引发了一场有关于人（rén）类与机器人的（de）大讨论。而今，由人（rén）工智（zhì）能引发的争论正在（zài）变得比当时更多也更（gèng）加激烈，这其（qí）中既有技术的纷争，也充斥着（zhe）伦理和（hé）法律（lǜ）的博（bó）弈。

《纽（niǔ）约客》杂志封（fēng）面（miàn）画（2017年10月）。基库·约翰逊（R. Kikuo Johnson）绘。

插图对应（yīng）的封面文章（zhāng）名为《黑暗工厂》（Dark Factory），描述了密歇（xiē）根（gēn）州大急（jí）流城Steelcase金属厂中一（yī）些被称（chēng）作“人肉（ròu）机（jī）器人”的工（gōng）人的故事，在这家公司，越来越多原本由人类（lèi）从事的工作都被机器人取（qǔ）代。在这（zhè）幅由基库·约（yuē）翰（hàn）逊（R. Kikuo Johnson）绘制的封面画中（zhōng），年轻的人类乞丐坐在未来的曼哈（hā）顿（dùn）街头（tóu）乞（qǐ）讨，路（lù）上穿（chuān）过的形形色（sè）色的机器（qì）人“上班（bān）族”和“行（háng）人”则向他手中的杯子里投（tóu）掷着螺（luó）丝（sī）和垫片，他身（shēn）旁的小狗也（yě）“目瞪口呆（dāi）”地注视着面前通过的（de）机器（qì）狗。

不可否（fǒu）认的是，人工智能正在成（chéng）为日常生活的一部分——虽然（rán）它在即将（jiāng）过去的（de）2020年并（bìng）未取得重大（dà）突破（pò），但显然，它已经切实改变了每一（yī）个人的生活。对于熟悉科幻小说、影视作品的人们来说（shuō），其中（zhōng）虚构的未来，可（kě）能正是（shì）我们所身（shēn）处的现在。人工智能生（shēng）态系统、无人驾驶汽车、智能个人助理、家用机器人……蓬勃发展的人工智能通过智能（néng）手机、家电、汽车等终端深入家庭（tíng）、企业和各种（zhǒng）公（gōng）共设施，它是当下的普遍现象，更是未来（lái）的主导技术（shù）。

在人类尚未（wèi）进入技（jì）术（shù）时（shí）代开始，有关机器人的想象就大（dà）量（liàng）存在于文学（xué）和戏剧、影视作品之中。起初，人们担心人工智能会背叛（pàn）人类——机器会因为更加聪明（智能）而反抗（kàng）人（rén）类，甚至消灭人类。

比如（rú）在根据科幻（huàn）大师阿（ā）西（xī）莫夫短篇小说改编的（de）电影《我，机器人》中所探讨的正（zhèng）是人与机器之间的关（guān）系。影片中，机器人具（jù）备了自我进化的（de）能力，它们随（suí）时会转化成（chéng）整个人类的“机械公（gōng）敌”。而“终结者”系（xì）列，探（tàn）讨的同样是机（jī）器人毁灭人（rén）类。为人工智能赋予人类的（de）感情，衍生的又是一个全新的故事。史蒂文（wén）·斯皮尔（ěr）伯格导演（yǎn）的《人工智（zhì）能》中，机器人小孩大卫试图寻找自己的（de）生存价值：渴望变成真正（zhèng）的小孩。

这些故事塑造了我们（men）对（duì）人工（gōng）智（zhì）能的认知（zhī），阿西莫夫（fū）创作的“机（jī）器人三大（dà）定律”也因为这些作品（pǐn）的一再表述而成为我们看待机器（qì）人的“标准”信条。但在（zài）斯图尔特·罗素（Stuart Russell）看来，这或许反而成为了人类（lèi）的某种误（wù）区，比如让人工智能“服从人类（lèi）”显然就是个（gè）坏主意。

斯图尔特·罗素（Stuart Russell）（版权：Peg Skorpinski），加州大学伯克利分校（xiào）计（jì）算机科学家，人类（lèi）兼容（róng）人工（gōng）智能中心（CHAI）主任，人工智（zhì）能（néng）研究实验室指（zhǐ）导委员会（huì）（BAIR）成员。世界经济（jì）论（lùn）坛人工智能和机器人委员会副（fù）主席，美国科（kē）学促进（jìn）会（AAAS）会士，美国（guó）人（rén）工（gōng）智（zhì）能（néng）协（xié）会（AAAI）会士。罗素（sù）获得过多项科学荣誉，包括美国（guó）国家科学基金会（huì）总统青年研（yán）究员奖、国际人工智能联合会议（IJCAI）计算机（jī）与思想奖、国际计算机学（xué）会（huì）（ACM）卡尔斯特朗杰出（chū）教育家（jiā）奖等，并受邀在TED、世界经（jīng）济论（lùn）坛演讲。

一个极端（duān）的案例是，如果（guǒ）人类赋予机器人一个错误的（de）或者存在漏（lòu）洞的目标，这可能是致命的。假（jiǎ）如我们希望（wàng）通过人工智能系统控制（zhì）气候变化（huà），并为其（qí）设定将大气中的二（èr）氧化碳水平恢复到工业革命前水（shuǐ）平的命令，这一系（xì）统很可能会得出（chū）消灭人类的结论（lùn）——因为人类（lèi）活动是产生二（èr）氧化碳（tàn）最主要的来源。即便（biàn）人类（lèi）为此附加条件不能消灭（miè）人（rén）类（lèi），人工（gōng）智能（néng）系（xì）统也可以会以说服的方式（shì）让人类少生孩子（zǐ），直到人类自（zì）然（rán）灭绝。

身（shēn）为美国加州大学（xué）伯克利分校计算机（jī）科（kē）学家的斯图尔特·罗素，是当（dāng）今世（shì）界上人工智能领域的权威专家，他曾与谷歌研究总（zǒng）监彼（bǐ）得·诺维（wéi）格合著出版了（le）人工（gōng）智能（néng）领（lǐng）域（yù）里（lǐ）的“标准教科书”《人工智能》，该书被128个国家的（de）1400多所大学使用。就在今年二月，他已经完成了该书的第四版。

今年十月，斯（sī）图尔特·罗素的（de）著作《AI新生（shēng）：破解人机共存（cún）密（mì）码——人类（lèi）最后一个大问题》引（yǐn）进出版，在这本书中（zhōng），罗素提出了一（yī）个问（wèn）题：如何破（pò）解人机共存的密码，使得人类可以掌握比我们（men）自身强大（dà）得多（duō）的智能？在过去相当长的一段（duàn）时间里，人（rén）类（lèi）之（zhī）所以能（néng）控制地球，是因为人类的大脑比其（qí）他动物的大（dà）脑要复杂得（dé）多。而这正是因为“智（zhì）能（néng）”，是一种权利。因此，罗素更为关注的，是对于这些（xiē）比我们更强大的机器，如何保持绝对的控制（zhì）权？在新京报记（jì）者（zhě）对（duì）罗素的采访中，他回答了（le）一些关于（yú）人（rén）工智能我们所（suǒ）关（guān）心，或（huò）者未知的问题。

《AI新生：破解人（rén）机共存密（mì）码——人类最后一个大问题》，［美（měi）］斯图尔特·罗素（Stuart Russell）著，张羿译，中（zhōng）信出版社2020年10月版（bǎn）。

斯（sī）图尔特·罗素：目前对人工智能的思考方式，我将其称之为“标准模（mó）型”。也就是说，我们（men）赋予机（jī）器以最佳方式去实现目标（biāo）的能力（lì），然后给予它们一个（gè）目标，它们开始运行。当（dāng）定义了一个错误目标时，就会（huì）出现问题（tí），现实情况中总会出（chū）现这样的状况。在许多文化中（zhōng），都有着类似的传说：一个人被赐予（yǔ）三个愿望，而第三个愿（yuàn）望，总是会推翻前两个愿望——因为它们毁掉了一切。

来自机器人的“阻（zǔ）力”并非来自（zì）意识，而是机器人会追求我们所赋予（yǔ）它们的（de）目标，而这可能会与我们真正想要达（dá）成的目标产生冲突。我们当然可以试着停止机器，或者彻底（dǐ）关闭它。但是，如果它们比（bǐ）我们更加聪明，这（zhè）也（yě）许会成为一个（gè）不可能（néng）完成的任务。

如（rú）果（guǒ）我们编（biān）写（xiě）了（le）一个智能程序（xù），它（tā）的行为方（fāng）式就会完全由代码决（jué）定，这个时（shí）候，人工智能是（shì）否（fǒu）有意（yì）识，对于即（jí）将发（fā）生的事情并不（bú）会产生任何影（yǐng）响。当然，我们也完全（quán）不知（zhī）道如何去（qù）制造一个拥有自主意识的（de）人工智能，也不可能（néng）知（zhī）道（dào）我们是否已（yǐ）经制造了一个。

人们之所以会关（guān）注（偶然）创造意识（shí），主要原（yuán）因是因为拥有自（zì）我意识的机器也许应该（gāi）拥有一（yī）些特权（quán），而这将（jiāng）使人工智（zhì）能研究者以及其他人的生活变得（dé）非常复杂。想象一下这样的场景，你的烤面包机正（zhèng）在与冰箱进行（háng）着关于生命意（yì）义的精彩对话（huà）时，你拔下了它们（men）的（de）插头，然后（hòu）因此被送进（jìn）了（le）监（jiān）狱。

电影《人工智能》剧照。

故事发生于21世纪中期（qī），由于温室（shì）效应，南北极冰川融化，地球上很多城市（shì）被淹（yān）没，人工智能（néng）机（jī）器人就（jiù）是人（rén）类发明出来用以应（yīng）对（duì）恶劣自（zì）然环境的科（kē）技手（shǒu）段之一。在影片的设定中，机器人（rén）制造技术（shù）已经（jīng）高度发达，先进（jìn）的机器人不（bú）但（dàn）拥有可以乱（luàn）真的（de）人类外表（biǎo），还能感知自（zì）身的存在。

我们到（dào）底应该如何理解“人工智能”这一概（gài）念？在《AI新生》中你提（tí）到（dào），超级人（rén）工智能的成功可能意味着人类的毁灭（miè）。

斯图尔特·罗素：粗略地讲，如果一个（gè）实体是智能的，它就会（huì）根据它的感知来做事情，而它所（suǒ）做的事情是为（wéi）了满足它的需求。我们可以用一种很自然的（de）方式来理解它的含义：“智能（néng）”意味着以一种可以（yǐ）预期（qī）的（de）方式来实（shí）现一个（gè）人的（de）目标的能（néng）力。智能包括了多（duō）种能力：比如推理、学习和交流能力，都可以理解为对这种能力的贡（gòng）献。

对于（yú）人（rén）类而言，智能是（shì）一种非常好的能力。不幸的是，“人工智能（néng）”这一概念的框（kuàng）架形成于（yú）上世纪四五十年代间（jiān），而这也（yě）成为我（wǒ）们今天对人工智能（néng）的理（lǐ）解。这（zhè）也正是我在前（qián）面所提到的“标准模型”。当（dāng）然，机器本身并没有自己（jǐ）的（de）目标，这些（xiē）目标都来自于人类的（de）设定。如果（guǒ）我们设定了错误的目标，就会导（dǎo）致失（shī）败。

如果你仔细思考一下，就（jiù）会发现，创建（jiàn）一个（gè）可以自主追求并设定固（gù）定目标的机（jī）器是没有（yǒu）意义（yì）的——制造出能够实现自己目标的机（jī）器（qì）就（jiù）更（gèng）没有（yǒu）意（yì）义了！我们应该制造那些只能够（gòu）帮助人类（lèi）实现目标的机器，即使它们并不（bú）能（néng）理解（jiě）这些目标到底（dǐ）是什（shí）么。

人工（gōng）智能究竟会如何改变我们的未来是一个非常热门（mén）的话题。如（rú）果我们制造出比人（rén）类更为智能（néng）的机器，将会发生什么（me）？你心目中的人工智能（néng）时代是什么样的（de）？

斯图（tú）尔特·罗（luó）素：如果可以成功（gōng）创建出那些安全、有益（yì）的人工智（zhì）能系统，我们将（jiāng）会（huì）获得几乎难以想象的好（hǎo）处，这些（xiē）好处（chù）来自于运用更为强大的智能（néng）来推进人类文明的能力。我（wǒ）们将从数（shù）千（qiān）年来，作（zuò）为农业、工（gōng）业和文书工（gōng）作的奴役中解放出来，能够自由（yóu）、充分（fèn）地发挥和利用（yòng）生活（huó）最（zuì）大的潜力。站在这个黄金时代的有（yǒu）利位置上，回顾我们当下的生活，可能（néng）正如托马斯·霍布斯（Thomas Hobbes）所想象的（de）那样：充满着孤独、贫穷、肮脏（zāng）、野蛮（mán）和短暂。

电影《2001太空漫（màn）游》（1968）剧照。

故事设（shè）定开始（shǐ）于2001年，为了寻找黑（hēi）石的根源，人类开展一（yī）项木星登陆计划。飞船上有冬（dōng）眠的三名宇航（háng）员，大（dà）卫（wèi）船长、富兰克飞行（háng）员，还有一部叫“HAL9000”（赫（hè）尔）的高（gāo）智能电脑。

具体来（lái）说，这样的人工智能系统，可以让我们把地球上每一个人的生活水（shuǐ）平都提升（shēng）到一个像样且体面的程度；每一个人都可（kě）以获得一位私人导师来指导他们的（de）成（chéng）长；每一个在目（mù）前看来昂贵、困难、进展缓慢甚至（zhì）（在世界某些地区）无法得以实（shí）施的社区项目（mù）都会变得可行。

对于（yú）你个人而言，人工（gōng）智能的（de）应运，对你的生活（huó）带来了哪些改（gǎi）变（biàn）？

斯图尔特·罗素：在（zài）我（wǒ）的日常生活中，人工智能提供了即（jí）时、免费且高质量的翻译。我因此可以阅读出（chū）版（bǎn）商（shāng）用中文发来的文件，我也经常阅读法（fǎ）国政府（fǔ）寄来的（de）法（fǎ）律和税务文件（不幸的是，我也看（kàn）不懂他们发（fā）来（lái）的英文）。和数十亿人一样。我（wǒ）每天都要（yào）使用搜索（suǒ）引擎（qíng）（它们（men）大（dà）多由人工智能（néng）驱（qū）动）来寻找那些过去被深藏于图书馆或百科全书（shū）中，或（huò）者（zhě）根本得（dé）不到（dào）的信息。那些（xiē）在过去缓慢、昂贵或难以访问的东（dōng）西，正（zhèng）在变得即时、免费（fèi）、唾手可得。而这正是现（xiàn）如今人工智能（néng）为我们生活带来的改变——这不仅仅是信息服（fú）务，还包括了各种商品和其他服务。

如果一台机器通晓（xiǎo）人类所（suǒ）有（yǒu）语言（yán），且能够以一种迅速而强（qiáng）大（dà）的方式（shì）获取人类知识（尽管在你（nǐ）看来这不太可能），普（pǔ）通人阅读和学习还有意义吗？人工（gōng）智能是否会颠（diān）覆（fù）人类获取知识的（de）方（fāng）式？

斯图尔特·罗素：如（rú）果一（yī）个机器人（rén）可以快（kuài）速的吃掉（diào）冰淇淋，是（shì）否意味着人类将停止吃冰淇淋？并不会！我们阅读，是为了娱乐和（hé）学习。显然，我们将继续这（zhè）样做。当然，人工智能可以帮助我们去阅读那些我们难以（yǐ）独（dú）立（lì）完（wán）成（chéng）阅读的书籍（jí）和资（zī）料。

电影《机械姬》（2014）剧照。影片中，天才一般的纳森（sēn）研制了具有（yǒu）独（dú）立思考（kǎo）能力的智能机器人伊娃，为了（le）确认她是否具有独立（lì）思考（kǎo）的能力，他希望加利能（néng）为伊娃进行著名的“图灵测试（shì）”。似乎从第（dì）一眼（yǎn）开（kāi）始，加利便为这（zhè）台有着宛如人类般姣好容颜的（de）机器人（rén）所吸引。

人工（gōng）智能将来有可能取代（dài）作家吗（ma）？尽管一些人可（kě）能不这么认为。

斯图尔特·罗（luó）素：是的（de），人工（gōng）智能正在（zài）取代创作者，特（tè）别是对（duì）于新（xīn）闻而言。这种（zhǒng）现象将会变得越来越普（pǔ）遍，而且，这会很快。目前，许多（duō）文（wén）章的原始资料（liào）已经可（kě）以在网上轻易（yì）获取，人工（gōng）智能只需要收集和整理这些信息，并以某种可读的方式将它（tā）们呈（chéng）现出来。目前（qián），人（rén）工智能还不能准确处（chù）理人类、社会、政治、国际关系方（fāng）面的内（nèi）容——这种情（qíng）况当然会得到改变，但还需要很长一段时间（jiān）。

不过，我（wǒ）认为（wéi），人工智能很快就可以（yǐ）通（tōng）过阅读数以百万计的（de）书籍，并将其中的（de）一些（xiē）元素进行重新（xīn）编织，形成新颖（yǐng）的（de）组合，从而创作出具有创（chuàng）造（zào）性和吸引力的（de）作（zuò）品。

你（nǐ）曾经提出了（le）人工智能（néng）的（de）三（sān）个（gè）新原则：而这（zhè）显（xiǎn）然和（hé）阿西莫夫定律背道而（ér）驰，你（nǐ）为（wéi）什（shí）么会做（zuò）出如（rú）此修改呢？

斯图尔（ěr）特·罗素：这三个原则如下（xià）：1、利他主（zhǔ）义（Altruism）——机（jī）器的唯（wéi）一目（mù）标是（shì）最（zuì）大限度（dù）地（dì）实现（xiàn）人类的（de）偏（piān）好；2、谦逊原（yuán）则（humility）——机器最初并（bìng）不确定人（rén）类的偏好是什（shí）么，这是创建有益（yì）机器（qì）的关键；3、学习预测人类偏好，人类偏好的最终信息来源（yuán）是人类行（háng）为（wéi）。

阿西（xī）莫夫（Asimov）设（shè）计他的（de）三定律（不（bú）伤害人类、服从人类、保护自（zì）我）是为了创造有趣的情节，而不是（shì）为了保护（hù）人类免受机器人的伤害。“不伤害人类”的原则与我的第一条原则相似，只是阿西莫夫（fū）认为（wéi）“伤害”有（yǒu）一个（gè）固（gù）定的定义——而这正是我试图避免的。

出于同样的原因，“服从（cóng）人（rén）类”也是个（gè）坏主意（yì），尤其是当这个（gè）人类（lèi）是（shì）一个脾气暴躁（zào）的两岁儿童时。他的机器人“保护自我”原则是完全没有必（bì）要（yào）的（de），因为如（rú）果机（jī）器人的（de）继（jì）续（xù）存在对人类（lèi）有帮（bāng）助的话，它（tā）会自动做（zuò）到这一点（diǎn）。而（ér）且（qiě），正（zhèng）如它应该（gāi）做的那样，《星际穿越》中的TARS机（jī）器（qì）人也应（yīng）该为了拯救人（rén）类而快乐地自杀（shā）。

电影《星际穿越》（2014）剧（jù）照。右侧（cè）方形（xíng）物体为TARS机器（qì）人。

有几种情况可能会误解这（zhè）些原则。最为常（cháng）见（jiàn）的是人们认为我是（shì）在（zài）建议把一套人类的价（jià）值观插（chā）入机器（qì），例如基督教价值观（guān）或儒（rú）家价值观（guān）。没有这（zhè）回事。机器应（yīng）该（gāi）为（wéi）每（měi）个活着的（de）人设置一个单独（dú）的偏好模型，这个模型是基于（yú）人（rén）类（lèi）的偏好（其中（zhōng）大部（bù）分是机器并不知道的）。同样（yàng）重要的是，要明（míng）白机（jī）器不会把这些偏好（hǎo）当（dāng）成自己的，它只是在学习人类想要什么。它（tā）也学不会像人类一样行事，就像犯（fàn）罪学家（jiā）不会学（xué）着像罪犯一样行事（shì）。这台机器完全是（shì）利（lì）他主（zhǔ）义的，没有自己的偏好。

最（zuì）为困难（nán）的问题来自于（yú）专业的哲学（xué）家，他们（men）已经为此（cǐ）思考了几千年。有些人会问：人类的偏好是不稳（wěn）定（dìng）的（de），是可（kě）以被操纵的，我同意这（zhè）是（shì）上（shàng）述三（sān）个原（yuán）则的一个（gè）问题。其他人则（zé）问，偏好——我们希望未来如何——是否真的可以（yǐ）作为（wéi）在道德上站（zhàn）得住（zhù）的决（jué）定的基础，以（yǐ）及我们是否也（yě）需要考虑权利。令人担忧的是，许多人的（de）偏好可能会（huì）侵犯个（gè）人的权利。关（guān）于这一主题的书籍已经有成千上万（wàn）了，因此我不会在这（zhè）里（lǐ）提出自己的意见，只想说我（wǒ）相信对立（lì）的观点实际（jì）上也是（shì）可以调（diào）和（hé）的。

电影（yǐng）《黑客帝国（guó）》(1999)剧照（zhào）。

片中，网（wǎng）络黑（hēi）客尼奥对这个看似正常的（de）现实世（shì）界产生了（le）怀疑。他结识（shí）了黑客崔妮蒂（dì），并见到了黑客组织的（de）首领墨菲斯。墨菲斯告诉他，现实世界其实是由一个（gè）名叫“母体”的计（jì）算机人工智能系（xì）统控制，人（rén）们（men）就像他（tā）们（men）饲（sì）养的动物，没有自由和（hé）思想，而尼奥就是能够（gòu）拯救（jiù）人类的（de）救世主。

今（jīn）年（nián）春天，我和两位（wèi）哲学家，一位经济（jì）学家一起上了一堂课，研究（jiū）了一（yī）些难（nán）题，即（jí）机（jī）器做出（chū）的决（jué）策对人类（lèi）有益到（dào）底（dǐ）意味（wèi）着（zhe）什么，尤其是当我（wǒ）们（men）考（kǎo）虑（lǜ）到有许多人（rén）有着不同的（de）偏好时。这些问题在道德哲学和政治（zhì）理论中已经提出了很长（zhǎng）时间，但我们需要（yào）尽快（kuài）回答（dá）它们！否则我们的人（rén）工智能（néng）系（xì）统就会遵循非（fēi）常错误的（de）理论。我觉（jiào）得这很有趣，我很确定我们（men）能取得一些进展。

那么，你会如何看待有（yǒu）关（guān）于（yú）人工智（zhì）能的（de）科（kē）幻小说或者影（yǐng）视作品呢？

斯图尔特·罗素：我（wǒ）小时候读过很多科幻小说，最近几年，我又开始和孩子们一起（qǐ）阅（yuè）读。现在，我正和二儿（ér）子乔治（zhì）一起看刘慈欣（xīn）的《三体（tǐ）》三部曲，和小儿子艾萨克一起看《星际迷航（háng）》。我一（yī）直在寻找那些（xiē）描绘人类（lèi）与超级智能愉快共存并拥有美好（hǎo）未来（lái）的作品。这样的作品不是很多。比如伊恩·班克斯（Iain Banks）的“文明”系列，在他的构想中，未来的人工智能系统比人类（lèi）的能（néng）力要（yào）强大得多，但它（tā）们（以某种方式）被设计成几乎完全有利（lì）于人类。他无法（fǎ）回答的（de）一个明显问题（tí）是，当机（jī）器完美地运行一切时（shí），人类（lèi）能在生活中找到什么目的。他们有大量（liàng）的闲暇时间（jiān）和无限的物（wù）质资源（yuán），但缺乏明确的目的，人们（men）拼（pīn）命地竞争极少数（shù）可（kě）以（yǐ）提供真正挑战的职（zhí）位。

电影《星（xīng）际迷（mí）航》（2009）剧照。

像（xiàng）大多数人工智（zhì）能研究人员一样（yàng），我相当有信心（xīn）我们将实现达（dá）到（dào）人类（lèi）水平的（de）人工智能，尽管这可能不会像许多人认（rèn）为的那（nà）样快。我们仍然需要克服一些巨（jù）大的概念性挑战（zhàn），很难（nán）说这需要花费多长时间。

在新款Neuralink脑机（jī）接口芯片的发（fā）布仪式上，埃隆·马斯克说，人们将（jiāng）能够通过BCI召唤他们的特斯（sī）拉。你也曾经提到过一种极（jí）端情况（kuàng）：人机一（yī）体化（huà），电子硬件直接连接到大脑，成（chéng）为单一的、可扩（kuò）展的、有意识的实体的一部分。我（wǒ）们应该如何看待（dài）人类（lèi）与人（rén）工（gōng）智能之间的共生机制？

斯图尔特·罗素：人脑能够向设备发出（chū）命（mìng）令是一回事，比如现在（zài）瘫痪的人可以使用机器手臂。但当我们试图通过电子设备，增强大脑的思（sī）维（wéi）过程（chéng）时（shí），这件事就截（jié）然不同（tóng）了。如（rú）果每个人都必须（xū）接（jiē）受脑外科手术才能够上学，这（zhè）难道（dào）不（bú）是我们犯了一个大错（cuò）？

数字永生呢？

斯图尔特（tè）·罗素：到目前为（wéi）止，将我们大脑中的全（quán）部思想和记忆上传到计算（suàn）机中（zhōng）仍然是一个推测。我（wǒ）们并没有理论可以解（jiě）释为什（shí）么人类的意识（shí）、体验可（kě）以存（cún）在，因此，我们也无法确定将思（sī）想和记忆的（de）结（jié）构（gòu）、状态复（fù）制到计（jì）算机（jī）中，我们仍然可以（yǐ）存在。苏珊·施耐德（dé）（Susan Schneider）撰写的《人（rén）造的你》（Artificial You）一书对这个问题进行了（le）广泛的讨论（lùn）。

《人造的你（nǐ）》（Artificial You），苏珊·施（shī）耐德（Susan Schneider著（zhe），普林斯顿大学出版（bǎn）社（shè）（Princeton University Press）2019年9月版（bǎn）。

滥用人工智能（néng）的可（kě）怕后果是什么？很明显，这一（yī）部分的（de）某些东西会让人非常沮丧。

斯图（tú）尔特·罗素：就像任何技术一样，人工智能也可能（néng）被（bèi）滥用。以下是几种可能的（de）情况：用于监视、劝说和控制的人工智能可以极大地减少人（rén）们的自由。而且，人工（gōng）智能可以（yǐ）产生（shēng）和（hé）传播虚假（jiǎ）信（xìn）息，并且模仿（fǎng）人类，使得人（rén）们很难知道什（shí）么是（shì）真的。

用于杀人的人工智能自（zì）主武器是致命的，很容（róng）易变成（chéng）大规模（mó）杀伤性武器（qì），因为（wéi）人工（gōng）智能武器不需要人类来监督，而且（qiě）可以成百万计的（de）发（fā）射。人工智能最终可能取（qǔ）代大多数人类工作——如果我们不（bú）能迅（xùn）速调整社（shè）会和教育系（xì）统，让人（rén）们得以适应（yīng）一（yī）个完全（quán）不同的世界——这将引发巨（jù）大的问题（tí）。

随着人（rén）工智（zhì）能时（shí）代的到来，我们的文明会终结吗？当（dāng）我们把所有的知（zhī）识都投（tóu）入到机器中，让机（jī）器（qì）来（lái）管理（lǐ）我们的文明，人类的（de）惰（duò）性很可能导致这种结果。如何避免这种结（jié）果（guǒ）？

斯图（tú）尔特（tè）·罗素：这里（lǐ）有两个问题。首先，我们能否确保（bǎo）超级智能人工（gōng）智能（néng）系统是安全（quán）和有益的？我认为答案是肯定的（de）。第（dì）二，当人（rén）类（lèi）文明由机器在运转时（shí），还能保（bǎo）持它的活力吗？尼克·博斯（sī）特（tè）罗（luó）姆（Nick Bostrom）在他的《超级智能》（Superintelligence）一书中说，第一个（gè）问题是“我（wǒ）们（men）这个时代的基本任务”，但（dàn）是如果我（wǒ）们回答了第一个问题（tí），那么（me）第二个问题就成（chéng）了我们这个时代以及所有未来（lái）时（shí）代的根本（běn）任务。

《超级智（zhì）能》(Superintelligence)，尼克·博斯特罗姆(Nick Bostrom)著，Oxford University Press2014年9月版。

我们应该从（cóng）哪里找到目标，无论是个人的还是集体的（de）?也许（xǔ）人工智能会来（lái）拯（zhěng）救我们，因为目标和挑战是（shì）人类生活的重要组成部分（fèn），它（tā）们的消失显然不是（shì）我们希（xī）望看到的未来。因（yīn）此，可以说，机器必然会后退（tuì）一步，为人类留（liú）下可成长（zhǎng）的空（kōng）间。