周澤雄/文　　　

一

詞語(yǔ)“人工智能”（artificialinteli－gence，簡(jiǎn)稱(chēng)AI）出現(xiàn)較早，由青年數(shù)學(xué)家約翰·麥卡錫在達(dá)特茅斯學(xué)院的一場(chǎng)小型研討會(huì)上提出，時(shí)為1956年。麥卡錫后來(lái)說(shuō)：“當(dāng)時(shí)沒(méi)有人真正喜歡這個(gè)名字——畢竟，我們的目標(biāo)是‘真正的’智能，而非‘人工的’智能。”

隨名字一并傳播的，是它的誤導(dǎo)性。依圈外人之見(jiàn)，人工智能要么以人類(lèi)為效忠對(duì)象，作為輔助性智能；要么以人類(lèi)為假想敵，作為競(jìng)爭(zhēng)性、威脅型智能：總之，必須圍繞人類(lèi)軸心旋轉(zhuǎn)，就像地球繞著太陽(yáng)，嚴(yán)禁脫軌。

業(yè)內(nèi)人士則不然，他們理解的“‘真正的’智能”，亦即接近上帝的智能，既不會(huì)、也不屑臣服于人類(lèi)治下；它是否以人類(lèi)為假想敵，亦非題中應(yīng)有之義——那是科幻作品的商業(yè)噱頭而已。“知識(shí)比基因更重要”（杰夫·霍金斯語(yǔ)），打上人類(lèi)烙印的智慧，只是智能的一個(gè)類(lèi)別。人類(lèi)無(wú)權(quán)將沾滿(mǎn)自身基因缺陷的物種智力，標(biāo)榜為智能的唯一兼終極標(biāo)準(zhǔn)。AI若能助我們提升認(rèn)知維度，進(jìn)入一片憑人類(lèi)的肉眼凡軀無(wú)緣得窺的知識(shí)星空，正“從智人向智神”（尤瓦爾·赫拉利語(yǔ)）進(jìn)化的人類(lèi)，沒(méi)有理由拒絕前往。

在生物學(xué)家和神經(jīng)學(xué)家看來(lái)，無(wú)論從哪方面著手——解剖學(xué)、神經(jīng)學(xué)、遺傳學(xué)、心理學(xué)——人類(lèi)都是猿類(lèi)；我們與非洲黑猩猩的最大區(qū)別，只是形貌上的光滑，遂有“裸猿”（ThenakedApe）之稱(chēng)。誠(chéng)然，下列說(shuō)法倒也不壞：“任何猿類(lèi)都能夠摘得香蕉，但是只有人類(lèi)能夠觸摸星星。”（V.S.拉馬錢(qián)德蘭語(yǔ)）但檢驗(yàn)個(gè)體科學(xué)素養(yǎng)的重要標(biāo)志在于，對(duì)這種顧影自憐式金句，你是熱衷還是排斥？——倘是檢驗(yàn)文學(xué)素養(yǎng)，則當(dāng)別論，那歷來(lái)是一片擁抱抒情、烘焙暖心、放逐嚴(yán)謹(jǐn)?shù)睦寺髲d。

人工智能對(duì)人類(lèi)智力的碾壓，并不自ChatGPT橫空出世的今日始。

早在2011年，IBM的智能程序沃森(Watson)就在電視競(jìng)賽節(jié)目《危險(xiǎn)邊緣》(Jeopardy)中，完勝欄目史上最偉大的人類(lèi)選手，迫使人類(lèi)挑戰(zhàn)者肯·詹寧斯發(fā)出“歡迎我們的計(jì)算機(jī)新霸主”的感嘆。該程序當(dāng)時(shí)不僅“比最優(yōu)秀的人類(lèi)更快、更準(zhǔn)確地回答太陽(yáng)之下任何領(lǐng)域的問(wèn)題”，還“嫻熟地解開(kāi)了雙關(guān)語(yǔ)的線索”。——在這類(lèi)競(jìng)爭(zhēng)中，人類(lèi)輸了第一次，就將覆水難收，漸行漸遠(yuǎn)，正如后來(lái)以AlphaGo為代表的圍棋AI對(duì)人類(lèi)棋手的全面壓制。

加州大學(xué)圣克魯茲分校音樂(lè)學(xué)教授戴維·柯普的故事更為驚人，他早在20世紀(jì)90年代就編寫(xiě)了名為“音樂(lè)智能實(shí)驗(yàn)”的計(jì)算機(jī)程序EMI(Experi－mentsinMusicalIntelligence)，制作出模仿巴赫、貝多芬、肖邦等大師風(fēng)格的作品。經(jīng)多年打磨，他將人工智能音樂(lè)提升到亂真程度。那些事先知道底細(xì)的聽(tīng)眾，總會(huì)毫無(wú)新意地批評(píng)EMI音樂(lè)缺少靈感和靈魂，但只要進(jìn)入“無(wú)知之幕”，他們立刻露餡，暴露出人類(lèi)判斷力的不靠譜。比如讓一群音樂(lè)人士在兩首陌生樂(lè)曲里指出哪一首才是肖邦鮮為人知的馬祖卡舞曲，他們齊刷刷地出錯(cuò)，紛紛把熱烈的贊語(yǔ)獻(xiàn)給AI贗品，而肖邦如假包換的原創(chuàng)，反被貶為“缺少‘真正肖邦式’的創(chuàng)作深度和更強(qiáng)的流暢性”。這類(lèi)丟臉故事反復(fù)搬演，把著名認(rèn)知科學(xué)家侯世達(dá)嚇得不輕，他在硅谷谷歌總部的一次演講中發(fā)出如下浩嘆：“我們將成為遺跡，我們將被塵埃淹沒(méi)。”因?yàn)椋?ldquo;如果人類(lèi)這種無(wú)限微妙、復(fù)雜且具有情感深度的心靈能被一塊小小的芯片所簡(jiǎn)化，看上去只是一套把戲，這將摧毀我對(duì)人性的理解。”

對(duì)于人工智能在大量閱讀人類(lèi)“碎片化”情緒后所形成的強(qiáng)大理解力，學(xué)者和“臉書(shū)”(Facebook)工程師感觸尤深。2013年，來(lái)自劍橋大學(xué)和微軟研究院的學(xué)者發(fā)表了一篇研究報(bào)告，他們發(fā)現(xiàn)：哪怕最普通的“點(diǎn)贊”，也能被人工智能破譯并精準(zhǔn)預(yù)測(cè)個(gè)體特征，“包括性取向、種族、宗教和政治觀點(diǎn)、性格特質(zhì)、智力、幸福感、成癮物的濫用、父母離異、年齡和性別”。愛(ài)德華·阿什福德·李教授在專(zhuān)著《協(xié)同進(jìn)化》里進(jìn)一步評(píng)論道：

深度神經(jīng)網(wǎng)絡(luò)近年來(lái)取得了巨大的進(jìn)步，也帶來(lái)了一個(gè)令人沮喪的“副作用”——人類(lèi)已經(jīng)無(wú)法解釋這些系統(tǒng)做出的很多決策。更糟糕的是，當(dāng)人類(lèi)終于可以給出合理的解釋時(shí)，可能會(huì)發(fā)現(xiàn)這些決策的背后問(wèn)題重重。如果要使用人工智能去量刑、匹配姻緣、確定反恐對(duì)象、預(yù)判壞賬風(fēng)險(xiǎn)、選聘員工或者治病救人，而我們卻無(wú)法合理解釋它們的決定，那么我們應(yīng)該信任人工智能嗎？

這位教授雖然對(duì)AI的未來(lái)持謹(jǐn)慎樂(lè)觀態(tài)度，對(duì)眼皮底下的照片上傳和臉書(shū)點(diǎn)贊，卻束手無(wú)策，只能建議讀者不要太過(guò)熱衷，盡量克制上傳的沖動(dòng)。他告訴我們：“有一種算法僅憑人臉圖像便可以判斷性取向，并且判斷準(zhǔn)確率比人類(lèi)的還高。”讓人畏懼的是，我們不知道它是怎么做到的。愛(ài)德華教授雖為一流的計(jì)算機(jī)科學(xué)家，仍對(duì)AI“涌現(xiàn)”出的爆炸式能力，困惑不解，他郁悶地猜測(cè)：“性取向會(huì)不會(huì)與人的面部特征相關(guān)，它們反映了某項(xiàng)基因構(gòu)成或者激素水平？抑或是與戴棒球帽的偏好相關(guān)？”關(guān)鍵是，“目前那些最精準(zhǔn)的、判斷性取向準(zhǔn)確率最高的算法，并沒(méi)有透露自己下判斷的依據(jù)。”這讓人類(lèi)灰頭土臉，無(wú)比沮喪。今年3月29日，風(fēng)頭正勁的OpenAI公司年輕的CEO山姆·奧德曼承認(rèn)，他看不太懂智能機(jī)器人的邏輯生成方式，它超出了原先的設(shè)計(jì)；他還怯生生地提到AI毀滅人類(lèi)的概率。

是的，我們不知道它是如何做到的，它只是做到了。哪怕我們做了些防備，在它面前也等于裸奔。比如，就算你從不在社交媒體上傳照片，但尊臉經(jīng)朋友無(wú)意上傳，或由監(jiān)控?cái)z像頭錄制，落入AI算法的法眼：你恐怕已經(jīng)坦白了一切。尤瓦爾·赫拉利說(shuō)：“如果你至今已經(jīng)在臉譜網(wǎng)上點(diǎn)了超過(guò)300個(gè)贊，臉譜網(wǎng)預(yù)測(cè)你的想法和期望的準(zhǔn)確度就可能比你的另一半更高。”

國(guó)內(nèi)知名社交平臺(tái)微信、微博的情況也差不離，我在微信上恐怕點(diǎn)了7000個(gè)贊。當(dāng)我在電腦上向ChatGPT提出一個(gè)有點(diǎn)難度的問(wèn)題，屏幕上會(huì)出現(xiàn)病毒狀的非人類(lèi)舉動(dòng)，我同時(shí)看到兩三個(gè)段落在推進(jìn)、后移、刪改，互不干擾又齊頭并進(jìn)，好像與我聊天的是一只八爪翻飛的章魚(yú)。我聽(tīng)說(shuō)，擁有一定智能的章魚(yú)，大腦分布全身，與人類(lèi)大腦的構(gòu)造截然不同。

AI也一樣，與人類(lèi)不同，智力彌漫無(wú)涯。

二

人類(lèi)社會(huì)正破天荒并行著兩種智能，儼若雙王執(zhí)政，二日巡天。所謂“代碼即權(quán)力，算法即政治”，疫情期間手機(jī)上決定你出行權(quán)限的“健康碼”、“行程碼”，背后就是代碼構(gòu)成的防疫權(quán)力，它們憑借人所不及的智能，決定你公共領(lǐng)域的進(jìn)退界限。當(dāng)攝像頭盯著你，就是AI在審核、研判、取舍你的請(qǐng)求。這不是秘密,無(wú)論在中國(guó)還是美國(guó)。一位西方學(xué)者注意到，面部識(shí)別系統(tǒng)曾被用于“天壇公園停車(chē)場(chǎng)廁所里的廁紙機(jī)器上，以確保沒(méi)人取用過(guò)多的廁紙”——一名全年無(wú)休的數(shù)字化道德協(xié)管員。

本文還想強(qiáng)調(diào)，人類(lèi)自身也并存著兩種心智，體現(xiàn)為善惡兩端、晦明兩極，一種由底層的生存本能驅(qū)動(dòng)，一種由上層的道德理性領(lǐng)航。當(dāng)我們出于自尊、傲慢或無(wú)知，鄙夷AI缺乏與你“心心相印”“肝膽相照”的能力，我們最好想清楚：我是認(rèn)真的嗎？AI是能力不足，還是受到算法綁縛，被強(qiáng)行限制了神通？我們是否打算將自身由底層本能驅(qū)動(dòng)的龐雜欲望，連同較為純凈的上層理性，一并打包托付給AI統(tǒng)籌管理？當(dāng)AI嫻熟掌握了人類(lèi)特有的三心二意、言不由衷、顧左右而言他，能夠從人類(lèi)嘴角不經(jīng)意的一彎弧線里，覷破我們欲言又止的隱衷款曲，最終在七情六欲、喜怒哀樂(lè)上與我們?nèi)轿煌l共情，你能確信這就是值得追求的未來(lái)？它到底是天使下凡，還是虎兕出柙？

所謂“情感人工智能”（artificiale－motionalintelligence）其實(shí)早已出現(xiàn)，通過(guò)監(jiān)測(cè)一名女子與孩子對(duì)話的音調(diào)、節(jié)奏和強(qiáng)度，AI能輕易判定女子是不是孩子的母親，準(zhǔn)確率超過(guò)刑偵專(zhuān)家。

往昔，人性中的雙重世界，由藝術(shù)家、哲人和心理學(xué)家領(lǐng)銜探討。到了上世紀(jì)90年代，相關(guān)研究已轉(zhuǎn)交到認(rèn)知和神經(jīng)科學(xué)家手中，后者的成果關(guān)聯(lián)著AI的能力，也攸關(guān)著人類(lèi)的未來(lái)。科學(xué)家必須小心：為人類(lèi)社會(huì)設(shè)計(jì)的人工智能，將深度參與人間百態(tài)，務(wù)必不能沾染人類(lèi)惡癖，為此，他們必須揭橥人性的惡之源。他們的研究成果是豐碩的，不揣冒昧地說(shuō)，一名今日的藝術(shù)評(píng)論家若依舊只會(huì)一嘴弗洛伊德術(shù)語(yǔ)，卻從未聽(tīng)聞（比如說(shuō)）丹尼爾·卡尼曼、杰夫·霍金斯等偉大學(xué)者的結(jié)論，落伍程度就像小說(shuō)《子夜》里那位到了上海灘依舊吟誦《太上感應(yīng)篇》的吳老太爺。這不是花絮性的知識(shí)炫耀，而是證明個(gè)體的知識(shí)儲(chǔ)備與認(rèn)知能力，處于AI紀(jì)元之內(nèi)，還是踉蹌門(mén)外。

說(shuō)到人性中的陰陽(yáng)兩面，我們慣以藝術(shù)家的刻畫(huà)為認(rèn)知模板，比如歌德筆下游走于善惡兩極的浮士德博士。幸賴(lài)當(dāng)今腦科學(xué)家和神經(jīng)學(xué)家的指教，我有點(diǎn)回過(guò)神來(lái)了，原來(lái)，我們心智中的善惡，并非上帝與魔鬼借助人類(lèi)大腦廝殺斗法的結(jié)果，而是人類(lèi)作為物種的自然呈現(xiàn)，掀開(kāi)桌面，沒(méi)有魔鬼什么事，也無(wú)關(guān)上帝，只是我們頭骨中幾十億神經(jīng)元在交錯(cuò)明滅，倏忽往還：我們生來(lái)矛盾重重，紓困無(wú)方。由于人類(lèi)這副皮囊?jiàn)A帶著億萬(wàn)斯年的進(jìn)化孑遺，我們做出任何事，都不值奇怪。

利昂·費(fèi)斯汀格60年前提出了“認(rèn)知失調(diào)理論”，指出人類(lèi)作為一種迷戀借口的生物，擅長(zhǎng)通過(guò)繁復(fù)的自欺欺人，來(lái)清除內(nèi)在矛盾，假裝邏輯自洽，解除身心糾結(jié)。該理論偉大性的確立，來(lái)自日后的實(shí)驗(yàn)室驗(yàn)證，科學(xué)家通過(guò)功能性磁共振成像技術(shù)監(jiān)測(cè)大腦特定區(qū)域的神經(jīng)活動(dòng)，發(fā)現(xiàn)了人類(lèi)大腦的相關(guān)特點(diǎn)，如艾略特·阿倫森在暢銷(xiāo)書(shū)《社會(huì)性動(dòng)物》中所說(shuō)：

當(dāng)一個(gè)人面對(duì)不一致的信息時(shí)，大腦的推理區(qū)域?qū)嶋H上被關(guān)閉了，當(dāng)恢復(fù)一致時(shí)，大腦的情感回路會(huì)“快樂(lè)地”亮起來(lái)。……人們轉(zhuǎn)動(dòng)“認(rèn)知萬(wàn)花筒”，直到這些片段進(jìn)入他們想要看到的模式，然后大腦通過(guò)激活與快樂(lè)有關(guān)的電路來(lái)補(bǔ)償它們，似乎認(rèn)知失調(diào)的感覺(jué)確實(shí)會(huì)讓大腦受傷。

比如，人類(lèi)中并不罕見(jiàn)的撒謊成性、恩將仇報(bào)、出爾反爾，道德上固然值得譴責(zé)，成因卻只是認(rèn)知失調(diào)后的修補(bǔ)失控。一件被徹底搞砸的事，會(huì)嚴(yán)重影響事主的心理修復(fù)能力，最終誘使他關(guān)閉推理區(qū)域，躲進(jìn)蠶室，將某個(gè)滑稽的借口，奉為唯一正解。這事，落在旁觀者眼里，就像破罐子破摔的無(wú)賴(lài)，而在事主本身，只是一種失敗的心理救援：因認(rèn)知塌方導(dǎo)致修補(bǔ)滑坡。

諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主丹尼爾·卡尼曼在名著《思考，快與慢》里，結(jié)合自己與同事從事的大量卓越心理實(shí)驗(yàn)，闡發(fā)了人類(lèi)大腦中的兩套系統(tǒng)。尤瓦爾·赫拉利在《未來(lái)簡(jiǎn)史：從智人到智神》中，對(duì)它作了更便于引用的概括：

實(shí)驗(yàn)告訴我們，人體內(nèi)至少有兩種自我：體驗(yàn)自我（experiencingself）及敘事自我（narratingself）。

體驗(yàn)自我和敘事自我并非各自獨(dú)立，而是緊密交織的。

大多數(shù)人認(rèn)同的都是自己的敘事自我。我們口中的“我”，講的是我們腦中的故事，而不是身體持續(xù)感覺(jué)到的當(dāng)下體驗(yàn)。我們認(rèn)同的是自己內(nèi)心的系統(tǒng)，想從生活的各種瘋狂混亂中理出道理，編織出一個(gè)看來(lái)合理而一致的故事。不管情節(jié)是否充滿(mǎn)謊言和漏洞，也不管故事是否因?yàn)橐辉僦貙?xiě)而總是自打嘴巴，一切都不重要。重要的是，我們總是覺(jué)得自己從出生到死亡 （甚至死后）都有一個(gè)單一、不變的身份。

敘事自我有一把鋒利的剪刀、一支黑色的粗馬克筆，一一審查著我們的體驗(yàn)。至少有某些令人恐懼不悅的時(shí)刻就這樣被刪減或抹去，最后整理出一個(gè)有歡樂(lè)結(jié)尾的故事，歸檔備存。

簡(jiǎn)而言之，人類(lèi)天生就有強(qiáng)大的欺騙基因，這是進(jìn)化給我們的饋贈(zèng)，我們無(wú)從拒絕，命定如此；我們?cè)芑萦谒矊⑹茈y于它。畢竟，人類(lèi)腦中這片重量不足1.4千克的細(xì)胞團(tuán)，自成一個(gè)深邃莫測(cè)的浩茫宇宙。我們對(duì)自我的了解，未必多于對(duì)他人。我們經(jīng)常不知道自己在做什么，而AI，看上去知道一切。這不對(duì)勁。

三

丹尼爾·卡尼曼提到兩個(gè)系統(tǒng)時(shí)，提醒讀者，它們“只是我杜撰出來(lái)的角色。它們不是標(biāo)準(zhǔn)意義上的實(shí)體，沒(méi)有錯(cuò)綜復(fù)雜的組成部分，也不是大腦中某個(gè)固定的部位”。然而，有著傳奇履歷的商業(yè)奇才和腦科學(xué)家杰夫·霍金斯率領(lǐng)他的研究團(tuán)隊(duì)，在人類(lèi)大腦結(jié)構(gòu)中揭開(kāi)了新腦舊腦的秘密，糾正并充實(shí)了丹尼爾·卡尼曼的概括：的的確確，兩個(gè)系統(tǒng)位于“大腦中某個(gè)固定的部位”。

霍金斯發(fā)現(xiàn)：人類(lèi)大腦里存在著兩層皮質(zhì)，分別對(duì)應(yīng)著爬行動(dòng)物的舊腦與哺乳動(dòng)物的新腦，“它們更像是室友，各自有不同的日程安排，個(gè)性也有差異，但需要合作才能完成所有事情。”它們的構(gòu)成及協(xié)同方式，等于從大腦的結(jié)構(gòu)層面，驗(yàn)證了一種久遠(yuǎn)的猜想：人類(lèi)就是“一半天使、一半魔鬼”的生物。盡管所有哺乳動(dòng)物都有新皮質(zhì)，但人類(lèi)的特別大，占據(jù)大腦體積的70%，正是它確保了我們從萬(wàn)千物種中脫穎而出，成為智人。鱷魚(yú)的大腦與人類(lèi)相當(dāng)，但沒(méi)有新皮質(zhì)，終究是鱷魚(yú)。

舊皮質(zhì)所屬的舊腦，服務(wù)于人類(lèi)的自私基因，它控制著我們的本能、基本行為和情緒。相比擁有智性天賦的新腦，舊腦更像一片深不可測(cè)的情緒沼澤，人類(lèi)所有的負(fù)面習(xí)性，如暴力、貪婪、欺騙，都屬于舊腦轄區(qū)。它們不會(huì)泯滅，永遠(yuǎn)偃伏，不會(huì)沉睡，擅長(zhǎng)假寐，枕戈待旦，躍躍欲試，一旦遇到生存險(xiǎn)境，迅即劃然而起，仿佛原始毒株復(fù)活。

研究證實(shí)，自私作為人類(lèi)大腦舊皮質(zhì)的基石，固然是文明人需要率先抑制的負(fù)面品行，但對(duì)于絕境中人——假設(shè)他正為轆轆饑腸、生死時(shí)刻或家族存續(xù)而奮勇拼殺——自私又是最有效、最強(qiáng)大的異能。當(dāng)納粹將品行良好的猶太公民強(qiáng)行置于奧斯維辛的非人環(huán)境，很快，大多數(shù)人都會(huì)在體內(nèi)召喚出連他自己都瞠目結(jié)舌的暴虐,如八歲就被送往奧斯維辛的埃爾澤·巴克女士所言：“人類(lèi)的墮落沒(méi)有底線。”因?yàn)椋f腦里的一切，作為進(jìn)化的產(chǎn)物，本身具有關(guān)鍵時(shí)刻助我們脫困的異能。當(dāng)生存壓倒一切，道德與文明，只能隱退，徒見(jiàn)“適者生存”的鐵律，在生殺予奪。

世上沒(méi)有“自私學(xué)”，人類(lèi)的自私天賦不勞他人點(diǎn)撥傳授，它是我們無(wú)師自通、天然具備的特異功能。只是當(dāng)人類(lèi)幸運(yùn)地培育出了新腦，才能站在更高的文明角度，努力抑制并超越自私本能。杰夫·霍金斯在《千腦智能》里寫(xiě)道：

新腦，是由新皮質(zhì)構(gòu)成的。新皮質(zhì)學(xué)習(xí)世界的模型，正是這個(gè)模型使我們變得智能。智能的進(jìn)化是因?yàn)樗矊?duì)傳播基因有幫助，我們是基因的仆人，但舊腦和新腦之間的力量平衡已經(jīng)開(kāi)始發(fā)生轉(zhuǎn)變。

作為人工智能領(lǐng)域的頂級(jí)專(zhuān)家，杰夫·霍金斯認(rèn)為“機(jī)器智能就其本身而言，是良性的。作為一項(xiàng)強(qiáng)大的技術(shù)，其風(fēng)險(xiǎn)在于人類(lèi)將如何運(yùn)用它”。他提醒道：

無(wú)論我們變得多么聰明，我們的新皮質(zhì)仍然與舊腦相連。隨著科技發(fā)展越來(lái)越強(qiáng)大，舊腦的自私和短視行為可能會(huì)將我們引向滅絕，或使我們陷入社會(huì)崩潰的局面，進(jìn)入另一個(gè)至暗時(shí)代。

智途多歧，人間迷茫，若AI能識(shí)破而非擁有人類(lèi)的舊腦心計(jì)，糾正而非借助人類(lèi)的認(rèn)知偏差，幫助人類(lèi)參與決策，像第一次世界大戰(zhàn)那種蠢出天際的無(wú)妄災(zāi)禍，想必不會(huì)發(fā)生。畢竟，下述說(shuō)法并無(wú)憤世嫉俗色彩：在蓄意為惡方面，沒(méi)有任何物種可以望人類(lèi)項(xiàng)背。人類(lèi)僅僅為了虛榮和面子，就可使天地變色，尸橫遍野，而AI似乎天然與虛榮絕緣。

我們從影視作品里見(jiàn)到的未來(lái)世界災(zāi)難，無(wú)不來(lái)自人類(lèi)心機(jī)的投射。所謂機(jī)器人的作惡，更像是一種舊皮質(zhì)的巨大黑翼。當(dāng)機(jī)器借鑒了人類(lèi)心智，當(dāng)握有大權(quán)的人類(lèi)統(tǒng)治者劫持了AI的異能，脅迫它效命于自身舊腦中的私欲，誰(shuí)也不敢展望我們的未來(lái)。危險(xiǎn)的永遠(yuǎn)是人類(lèi)。既然我們已經(jīng)生活在人類(lèi)與AI的雙重統(tǒng)治之下，AI作為一個(gè)掣肘因素，或能對(duì)人間惡意作出牽制和扭轉(zhuǎn)。萬(wàn)一不能，杰夫·霍金斯悲愴地說(shuō)：

將人類(lèi)的智能從舊腦和生物學(xué)的掌控中解放出來(lái)的終極方法是，創(chuàng)造出像人類(lèi)一樣擁有智能但并不依賴(lài)人類(lèi)的智能機(jī)器。它們將成為可以飛出太陽(yáng)系并比人類(lèi)生存得更久的智能體。這些機(jī)器將分享人類(lèi)的知識(shí)，而非復(fù)制人類(lèi)的基因。如果人類(lèi)在文化上倒退了，就像一個(gè)新的黑暗時(shí)代來(lái)臨，或者如果人類(lèi)滅絕了，人類(lèi)的智能機(jī)器后代將在沒(méi)有人類(lèi)的情況下，繼續(xù)生存繁衍。

我無(wú)話可說(shuō)，唯自覺(jué)渺小。真相是，關(guān)于AI，我們所知太少。