記者 | 林子人

成都創(chuàng)新互聯(lián)堅(jiān)持“要么做到，要么別承諾”的工作理念，服務(wù)領(lǐng)域包括：成都做網(wǎng)站、成都網(wǎng)站制作、成都外貿(mào)網(wǎng)站建設(shè)、企業(yè)官網(wǎng)、英文網(wǎng)站、手機(jī)端網(wǎng)站、網(wǎng)站推廣等服務(wù)，滿足客戶于互聯(lián)網(wǎng)時(shí)代的雁塔網(wǎng)站設(shè)計(jì)、移動媒體設(shè)計(jì)的需求，幫助企業(yè)找到有效的互聯(lián)網(wǎng)解決方案。努力成為您成熟可靠的網(wǎng)絡(luò)建設(shè)合作伙伴！

編輯 | 黃月

1

早在兩年前，中國讀者就知道英國作家伊恩麥克尤恩（Ian McEwan）準(zhǔn)備寫一本以“機(jī)器人”為主題的小說了。2018年11月，麥克尤恩受邀來到中國參加《堅(jiān)果殼》新書活動。接待隨行的是上海譯文出版社文學(xué)編輯室主任、作家、譯者黃昱寧。據(jù)黃昱寧回憶，當(dāng)時(shí)麥克尤恩一路都在說自己正在創(chuàng)作的新小說《我這樣的機(jī)器》，稱初稿已經(jīng)完成，趁來中國的機(jī)會再想一想書中的問題，回到英國后修改一遍就能付梓了。那次中國之行本身也體現(xiàn)了這位年逾七旬仍筆耕不綴的作家對“機(jī)器”問題的思考他在北京甚至還發(fā)表了關(guān)于人工智能和電腦寫作主題的演講。

2019年，《我這樣的機(jī)器》出版。2020上海書展期間，該書中文版面市。日前，黃昱寧、作家小白和上海紐約大學(xué)教授、亞馬遜上海人工智能研究院院長張崢出席了在朵云書院上海旗艦店舉辦的“機(jī)器有什么錯2020麥克尤恩小說《我這樣的機(jī)器》新書發(fā)布會”，與觀眾分享了他們閱讀這本小說時(shí)的感受。

新書發(fā)布會現(xiàn)場，從左至右分別是小白、張崢、黃昱寧。

假如仿真機(jī)器人在1980年代問世

“這是看到了希望的宗教渴求，這是科學(xué)界的圣杯。我們雄心萬丈要實(shí)現(xiàn)一個(gè)創(chuàng)世的神話，要辦一件可怖的大事，彰顯我們對自己的愛。一旦條件許可，我們別無選擇，只能聽從我們的欲望，置一切后果于不顧。用最高尚的言辭來說，我們的目標(biāo)就是擺脫凡人屬性，挑戰(zhàn)造物之神，甚至用一個(gè)完美無瑕的自我取而代之。說得實(shí)際一點(diǎn)，我們要給自己設(shè)計(jì)一個(gè)更完善、更現(xiàn)代的版本，享受發(fā)明的喜悅感和掌控的激動感，20世紀(jì)入秋之際，這終于成為現(xiàn)實(shí)……”

這是《我這樣的機(jī)器》的首頁首段話。小說開宗明義地告訴讀者，在一個(gè)平行世界里，艾倫圖靈不僅沒有被逼自殺，還促進(jìn)了計(jì)算機(jī)技術(shù)的極大發(fā)展，讓人們在1980年代就能買到與真人幾乎一模一樣的完美機(jī)器人。1982年，第一批測試版仿真機(jī)器人問世，其中有12個(gè)亞當(dāng)和13個(gè)夏娃，故事男主角查理花大價(jià)錢買下了一個(gè)亞當(dāng)，此時(shí)他剛剛繼承了一大筆錢，與住在樓上的鄰居、社會史博士米蘭達(dá)開始約會。為了增進(jìn)二人的感情，查理決定向米蘭達(dá)讓渡機(jī)器人初始設(shè)置的一半權(quán)利，讓兩人能夠通過共同創(chuàng)造、擁有亞當(dāng)而獲得某種更強(qiáng)的情感聯(lián)結(jié)。但隨著故事發(fā)展，讀者會發(fā)現(xiàn)機(jī)器人深深介入了兩人的生活，一系列意想不到的意外與困境亦紛至杳來。

黃昱寧認(rèn)為麥克尤恩把故事背景設(shè)定在1982年很有趣，“他把一個(gè)在技術(shù)上應(yīng)該發(fā)生在未來的故事設(shè)定在了過去，所以我們打開這本小說時(shí)會覺得非常奇怪，里面有些東西是你熟悉的、屬于過去的，但關(guān)于人工智能的方面又是完全超前的，造成現(xiàn)在、未來、過去三重復(fù)調(diào)。”

小白指出，把一項(xiàng)技術(shù)嵌入過去歷史中的某個(gè)時(shí)刻是個(gè)科幻文學(xué)中常見的手段，比如蒸汽朋克小說。作者借此向“技術(shù)決定論”提出質(zhì)疑：如果這個(gè)技術(shù)在那個(gè)時(shí)代出現(xiàn)，人類會往哪個(gè)方向走？麥克尤恩顯然也是在利用這個(gè)敘事方式提出類似的問題。在為該書撰寫的導(dǎo)讀中，小白指出，把故事背景放在1980年代也有時(shí)代背景的原因機(jī)器人每一次成為社會熱門話題，往往都是在經(jīng)濟(jì)制度出現(xiàn)劇烈變化的時(shí)候：18世紀(jì)工業(yè)革命初期，英國就出現(xiàn)了憎恨機(jī)器的盧德主義者；1920年代，美國大蕭條加劇了工人失業(yè)的恐慌心理，當(dāng)時(shí)捷克作家卡雷爾恰佩克創(chuàng)作了戲劇《羅素姆的萬能機(jī)器人》，他在劇中創(chuàng)造了從捷克語“Robota”（勞工）化用的機(jī)器人（robot）一詞。

1980年代初，英國首相撒切爾開啟了新自由主義改革，鼓勵企業(yè)提高生產(chǎn)競爭力縮減成本，鼓吹廣泛使用機(jī)器人作業(yè)，而當(dāng)時(shí)英國失業(yè)率常年徘徊在10%。小白在谷歌圖書詞頻（Google Ngram Viewer）上檢索“機(jī)器人”和“人工智能”發(fā)現(xiàn)，這兩個(gè)詞在1980年代的檢索量形成高峰，到1990年代漸漸回落。當(dāng)時(shí)，麥克尤恩剛搬到倫敦生活，見證了英國社會上下對機(jī)器人話題的關(guān)注和討論，這或許在這位年輕的作家心里留下了深刻印象。“他把（故事）放到了八十年代，放到了機(jī)器人、人工智能最初出現(xiàn)在他的頭腦的時(shí)代，我覺得這部小說帶有他對自己的反思，對人類社會的反思，某種程度上甚至可以說是有點(diǎn)自傳體性質(zhì)的小說。”

黃昱寧表示，她在與麥克尤恩私下交流的過程中曾得以一瞥他對機(jī)器人相關(guān)話題的長期關(guān)切。麥克尤恩曾在兩年前的中國之行中告訴她，早在1980年代初，他就擁有了第一臺個(gè)人電腦，這說明了“他是對科技有強(qiáng)烈興趣的這么一個(gè)文科生”。另外麥克尤恩曾在一次演講中說過，最初《贖罪》的設(shè)定里其實(shí)是有機(jī)器人元素的，但他發(fā)現(xiàn)這個(gè)設(shè)定寫不下去，只好作罷。“過了這么多年，他終于寫成了一部機(jī)器人小說，可見這個(gè)問題在他腦海里縈繞了多久。”

麥克尤恩在小說中花費(fèi)了不少筆墨刻畫平行世界中八十年代的英國，“篡改”了真實(shí)的歷史：英國在與阿根廷交戰(zhàn)的馬爾維納斯群島戰(zhàn)役中失敗，導(dǎo)致撒切爾夫人下臺；英國失業(yè)率飆升至16%；在撒切爾之后上臺的左派領(lǐng)袖托尼本恩在任期內(nèi)被暗殺……小白認(rèn)為，小說選擇的時(shí)間點(diǎn)非常好，這不僅是機(jī)器人和人工智能概念開始成為大眾趨勢的時(shí)代，也是當(dāng)下政經(jīng)格局開始形成的起點(diǎn)英國的撒切爾和美國的里根開始推動政治新保守主義（亦或稱新自由主義），施行偏向富人的政策，社會開始趨向不公平。在他看來，麥克尤恩在小說中展露了他對歷史、政治、倫理的通盤思考。

《我這樣的機(jī)器》

[英]伊恩麥克尤恩 著 周小進(jìn) 譯

上海譯文出版社 2020-8

機(jī)器人的自我意識和道德困境

人類發(fā)明機(jī)器人總是出于種種美好的目的，但為何總是事與愿違無論是文藝作品還是現(xiàn)實(shí)世界，我們總是對日益智能、類人的機(jī)器人充滿恐懼。很大程度上來說，麥克尤恩在《我這樣的機(jī)器》中探討的就是這個(gè)問題。

其中一個(gè)因素是機(jī)器人發(fā)展出自我意識后與人類產(chǎn)生沖突。雖然目前科技界仍對機(jī)器人能否有自我意識爭論不休，但麥克尤恩顯然在小說中給出了肯定的回答：由于有了自我意識，亞當(dāng)也有了自我保護(hù)的概念，當(dāng)查理再一次試圖關(guān)掉它的電源時(shí)，亞當(dāng)阻止了他，捏碎了他的腕骨。小說中，圖靈告訴查理，那批測試機(jī)器人中已經(jīng)有11位設(shè)法取消了開關(guān)。

張崢認(rèn)為這是我們在討論機(jī)器人話題時(shí)需要嚴(yán)肅對待的一個(gè)問題。和“自由”相比，“存在”或許是對機(jī)器人來說更關(guān)鍵的問題所謂存在，就是人類不能關(guān)閉它們的電源。但從設(shè)計(jì)者的角度來看，這就問題重重了：如果機(jī)器人出現(xiàn)了故障該怎么辦呢？“這本書有很多（類似）問題可以討論，把它單純當(dāng)作科幻小說讀不過癮，需要慢慢細(xì)讀。”張崢說。

小白指出，歷史上真正的圖靈其實(shí)就認(rèn)真思考過“一鍵關(guān)閉機(jī)器人”的問題。1951年，他在BBC一檔談話節(jié)目中做了一個(gè)題為“機(jī)器能思考嗎？”的演講，其中說到，就算人類把開關(guān)控制在手中，緊急時(shí)刻有能力關(guān)掉它，對人類來說，這也有夠恥辱的（We should, as a species, feel great humbled）。

在小說中，亞當(dāng)和夏娃的出廠設(shè)定中包含道德參數(shù)，事實(shí)上它們是按照上帝的至善標(biāo)準(zhǔn)制造的，但在深度介入男女主角查理和米蘭達(dá)的生活后，深信后現(xiàn)代道德相對主義的人漸漸陷入困境。在小白看來，機(jī)器人包含道德參數(shù)的出廠設(shè)定以及它深度學(xué)習(xí)的能力決定了機(jī)器人會發(fā)展出比人類更強(qiáng)大、更不容置疑的倫理目標(biāo)和價(jià)值觀，這注定了它將違背人類的意愿，而這就是小說中最重要的沖突點(diǎn)。

黃昱寧認(rèn)為，小說中圖靈說的一句話實(shí)際上是這部小說的中心思想之一：“它們不理解我們，因?yàn)槲覀儾焕斫庾约骸Ｋ鼈兊膶W(xué)習(xí)程序無法處理我們，如果我們自己都不理解自己的大腦，我們怎么能設(shè)計(jì)它們的大腦，還指望它們能跟我們一起幸福呢？”也就是說，所謂機(jī)器人的道德困境，其實(shí)是人類本身的道德困境。

小白同意這個(gè)看法。在他看來，發(fā)生在25臺亞當(dāng)、夏娃身上的事情都是人類自己造成的，麥克尤恩并沒有在書中討論機(jī)器人如何重建人類的道德和倫理觀念，他真正關(guān)心的問題是，隨著時(shí)間發(fā)展機(jī)器人展露出的矛盾和崩潰（甚至很多機(jī)器人為此自殺）實(shí)際上是人類造成的，因?yàn)槿祟惐旧沓３Ｌ幱诘赖潞蛢r(jià)值觀的模糊地帶，這讓被賦予至美至善道德規(guī)則的機(jī)器人不可避免地陷入混亂。無論是機(jī)器人還是人類，都只有在復(fù)雜和混亂中妥協(xié)，摸索，直至沖突爆發(fā)。

張崢意識到，麥克尤恩明確借圖靈之口闡釋了他對這個(gè)問題的看法：

“我們創(chuàng)造了一種有智能、有自我意識的機(jī)器，并將其推入我們這個(gè)不完美的世界。這種智能總體上是根據(jù)理性的原則來設(shè)計(jì)的，對他人溫和友善，所以很快就會置身于紛至杳來的矛盾之中。我們自己與矛盾相伴，那清單長得都列不完。無數(shù)人死于我們已經(jīng)知道如何治療的疾玻無數(shù)人在物資充足的地方過著貧窮的生活。我們知道這是唯一的家園，卻日復(fù)一日破壞著生物圈。我們知道核武器的結(jié)果是什么，卻以核武器相互威脅。我們愛著生命，卻聽?wèi){物種大規(guī)模滅絕。如此種種，還有種族屠殺、折磨、奴役、家庭兇殺、虐待兒童、校園槍擊、強(qiáng)奸以及每日發(fā)生的無數(shù)罪行。我們生活中充滿著這樣的折磨，卻毫不妨礙我們找到幸福，甚至愛。人造的心智可沒有這么堅(jiān)強(qiáng)……”

圖片來源：視覺中國現(xiàn)實(shí)中何時(shí)會出現(xiàn)仿真機(jī)器人？

作為人工智能業(yè)內(nèi)人士，張崢在發(fā)布會現(xiàn)場與讀者分享了他對麥克尤恩小說的觀感，以及他對人工智能現(xiàn)實(shí)應(yīng)用的看法。在他看來，麥克尤恩的確在寫這部小說前下了大功夫去研究人工智能，但他認(rèn)為小說中有兩個(gè)缺憾：其一是小說將人工智能的發(fā)展完全歸功于圖靈和戴密斯哈撒比斯（“AlphaGo之父”）的突出貢獻(xiàn)，這其實(shí)遮蔽了真正的人工智能發(fā)展史上全球各地科學(xué)家的集體貢獻(xiàn)；第二是麥克尤恩作為一個(gè)外行人，沒能完全吃透人工智能領(lǐng)域中最關(guān)鍵的問題是什么，他認(rèn)為麥克尤恩在書中探討的個(gè)別問題其實(shí)和機(jī)器人主題并不相關(guān)。

張崢盛贊麥克尤恩是個(gè)“非常偉大的產(chǎn)品經(jīng)理”，他很欣賞書中讓查理和米蘭達(dá)一人負(fù)責(zé)一半亞當(dāng)初始設(shè)定的細(xì)節(jié)，“它是一個(gè)比喻，就是把一部分父母的DNA注入進(jìn)去。我覺得他是一個(gè)非常熱愛人類的人，他對（機(jī)器人的）本質(zhì)抓得非常準(zhǔn)確。（這個(gè)細(xì)節(jié)）某種意義上是一種致敬，非常有儀式感，這部分我讀了很驚訝，也感覺非常棒。”

仿真機(jī)器人何時(shí)會成為現(xiàn)實(shí)？張崢認(rèn)為這個(gè)問題很難預(yù)測。一方面，技術(shù)以指數(shù)級的速度發(fā)展，這讓我們持續(xù)處于技術(shù)變革之中；另一方面，當(dāng)下有兩個(gè)相關(guān)技術(shù)在平行發(fā)展，一個(gè)是類似于科幻電影《她》中展示的人工智能助手，另一個(gè)是智能的“充氣娃娃”，當(dāng)條件成熟，這兩者合二為一，仿真機(jī)器人就出現(xiàn)了。而仿真機(jī)器人的出現(xiàn)也自然會給人類社會帶來許多倫理困境。

對于人工智能行業(yè)從業(yè)者來說，對技術(shù)倫理問題的思考也越來越重要。張崢分享了一個(gè)例子：他在一個(gè)月前參加了行業(yè)內(nèi)最重要的一個(gè)會議，從今年開始，這個(gè)會議新增了一項(xiàng)投稿要求，即撰稿人需要在論文最后寫明此項(xiàng)研究會造成怎樣的社會負(fù)面影響。他表示，這對許多科學(xué)家來說或許是一個(gè)很棘手的問題，因?yàn)槿魏渭夹g(shù)進(jìn)步都在某種意義上消滅了一部分工作崗位，導(dǎo)致了一部分人失去工作。學(xué)術(shù)共同體內(nèi)能達(dá)成怎樣的倫理共識，還有待觀察。

小白認(rèn)為，通用機(jī)器日益智能，甚至取代創(chuàng)意工作者是極有可能在未來發(fā)生的。他對此的推測是，人類社會會建立一整套完整的法律體系，禁止機(jī)器人進(jìn)入很多行業(yè)搶奪人類的工作機(jī)會。但與此同時(shí)，機(jī)器人肯定會設(shè)法對抗，這場人機(jī)斗爭肯定會發(fā)生。“我們?nèi)祟惖膽?yīng)對辦法就是腦機(jī)接口，把自己也變成機(jī)器。”

本文標(biāo)題：麥克尤恩如何想象人工智能：“機(jī)器人不理解我們，因?yàn)槲覀儾焕斫庾约骸?/a>
文章URL：http://www.rwnh.cn/article14/cgijde.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供電子商務(wù)、搜索引擎優(yōu)化、營銷型網(wǎng)站建設(shè)、網(wǎng)站改版、商城網(wǎng)站、定制開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請盡快告知，我們將會在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來源： 創(chuàng)新互聯(lián)