在過去幾年里，被稱為 "有效利他主義 "的社會(huì)思潮運(yùn)動(dòng)，在硅谷各人工智能公司的員工和高管產(chǎn)生了激烈的分歧。

而這股思潮的信奉者與非信奉者間的針鋒相對(duì)，似乎也正成為OpenAI過去一周震驚世界的“宮斗事件”背后，真正的“無形之手”。

有效利他主義是如何影響AI領(lǐng)域的？

有效利他主義(Effective Altruism)于21世紀(jì)初萌芽，這套哲學(xué)理念希望用證據(jù)和推理來選擇最有效的方式以造福他人，即最大或更好地行善。對(duì)有效利他主義者而言，一個(gè)很重要的目標(biāo)就是改善這個(gè)世界，而且做到愈有效率愈好。這意味著：他們會(huì)透過理性分析、衡量狀況，確保手中的資源能夠發(fā)揮最大的作用，以最終達(dá)到改善世界的目的！

這個(gè)理念被那些致力于動(dòng)物權(quán)利和氣候變化的人所接受，他們從哲學(xué)家、數(shù)學(xué)家和未來預(yù)測(cè)家那里汲取思想，影響著硅谷和其他地方的人工智能研究界。

按照這一理念推演，在互聯(lián)網(wǎng)科技領(lǐng)域，“開源”“免費(fèi)”“去中心化”等均有利于最大程度地行善，而以營(yíng)利為基本目標(biāo)的公司組織形態(tài)則與之背道而馳。而在AI領(lǐng)域，有效利他主義者相信，精心打造的人工智能系統(tǒng)在注入正確的人類價(jià)值觀后，將帶來一個(gè)黃金時(shí)代，但如果做不到這一點(diǎn)，可能會(huì)帶來世界末日般的后果。

OpenAI于一年前發(fā)布了ChatGPT，它的問世其實(shí)就部分基于有效利他主義的原則。

奧特曼和馬斯克于2015年開始組建OpenAI，兩人當(dāng)時(shí)的愿景便旨在實(shí)現(xiàn)通用人工智能(AGI)，這是一種推理能力達(dá)到或超過人類水平的系統(tǒng)。他們當(dāng)時(shí)表示，希望以一種造福人類的方式實(shí)現(xiàn)這一目標(biāo)，而不僅僅是為企業(yè)牟利。

而在某種程度上，OpenAI過去一周的動(dòng)蕩，本身也是一場(chǎng)由此產(chǎn)生的理念之爭(zhēng)：一方是相信市場(chǎng)規(guī)律的群體，而另一方是相信賦予道德、理性、數(shù)學(xué)和精確調(diào)整的機(jī)器，才能更為安全地指引人類未來的有效利他主義者。

四位董事中有三位有效利他主義者？

有效利他主義者認(rèn)為，一味追求人工智能可能會(huì)毀滅人類。對(duì)于人工智能的發(fā)展，他們更傾向于安全而非速度。而不少這場(chǎng)運(yùn)動(dòng)的參與者，本身便是過往一年幫助形成人工智能熱潮的引領(lǐng)者。

據(jù)熟悉OpenAI內(nèi)部爭(zhēng)議的人士表示，上周五被OpenAI董事會(huì)解雇的奧特曼，與公司首席科學(xué)家兼董事會(huì)成員Ilya Sutskever在人工智能安全問題上，就曾發(fā)生過激烈沖突。而Sutskever過往的一系列立場(chǎng)，其實(shí)就反映了有效利他主義者對(duì)當(dāng)前AI高速發(fā)展的擔(dān)憂。

如同許多人在這場(chǎng)OpenAI“宮斗大戲”后了解到的那樣，Ilya Sutskever是“深度學(xué)習(xí)之父”Geoffrey Hinton的學(xué)生。Geoffrey Hinton今年早些時(shí)候從谷歌辭職，就是為了能更好地對(duì)人工智能安全提出警告，而作為Hinton的學(xué)生，Sutskever對(duì)AI的擔(dān)心很早就存在。

在今年7月，OpenAI正式宣布成立一個(gè)新的研究團(tuán)隊(duì)“超級(jí)對(duì)齊”(Superalignment)團(tuán)隊(duì)，這恰恰便是由Sutskever領(lǐng)導(dǎo)的一項(xiàng)工作——計(jì)劃未來4年投入20%算力，用AI監(jiān)督AI的方式，解決超智能“AI對(duì)齊”問題。“AI對(duì)齊”的意思是，要求AI系統(tǒng)的目標(biāo)要和人類的價(jià)值觀與利益相一致。

而與Sutskever存有類似觀點(diǎn)的，還有最初投票驅(qū)逐奧特曼的另兩位董事——Tasha McCauley和Helen Toner。

Tasha McCauley是一位技術(shù)高管，也是有效利他主義慈善機(jī)構(gòu)——有效風(fēng)險(xiǎn)投資公司(Effective Ventures)的董事會(huì)成員，而Helen Toner則是喬治城大學(xué)安全與新興技術(shù)中心的高管，該中心得到了一個(gè)致力于有效利他主義事業(yè)的慈善機(jī)構(gòu)的支持。熟悉內(nèi)情的人士說，他們?cè)诙聲?huì)中占到了推翻奧特曼所需四票中的三票。

OpenAI周三宣布，奧特曼將重新?lián)卧摴臼紫瘓?zhí)行官，而上述三人——Ilya Sutskever、Tasha McCauley和Helen Toner，則均已不在最新的董事會(huì)成員名單之上。

可以說，有效利他主義陣營(yíng)雖然在這場(chǎng)“宮斗大戲”的前半段，閃電般地驅(qū)逐了奧特曼，但最終仍在這場(chǎng)博弈中“一敗涂地”。然而，眼下發(fā)生在OpenAI身上的一切，就真的已經(jīng)是這場(chǎng)故事的最終大結(jié)局了嗎？

顯然，未必！

理念之爭(zhēng)料將伴隨AI發(fā)展

事實(shí)上，從2014年左右開始，有效利他主義者就已經(jīng)開始意識(shí)到先進(jìn)人工智能系統(tǒng)存在導(dǎo)致人類滅絕的風(fēng)險(xiǎn)——這被他們視作一種與氣候危機(jī)程度相當(dāng)?shù)奈ｋU(xiǎn)。這一啟示恰逢瑞典哲學(xué)家尼克·博斯特羅姆出版了《超級(jí)智能》一書，該書將“回形針”作為人工智能危險(xiǎn)的象征。

這個(gè)設(shè)想的概念很簡(jiǎn)單，但卻又很可怕——如果一臺(tái)機(jī)器的唯一目標(biāo)就是最大化的量產(chǎn)回形針，那它有可能會(huì)發(fā)明些匪夷所思的技術(shù)，只為了把宇宙中能用的資源都轉(zhuǎn)化成回形針，最終毀滅人類。

去年秋天的一天，數(shù)千個(gè)OpenAI徽標(biāo)形狀的回形針，被寄到了該公司位于舊金山的辦公室。似乎沒有人知道他們來自哪里，但每個(gè)人都知道他們的含義……

這個(gè)惡作劇據(jù)說是由OpenAI同城競(jìng)爭(zhēng)對(duì)手Anthropic的一名員工干的，該公司本身就是由一群OpenAI出走的前員工創(chuàng)建，單飛的原因據(jù)說也是基于人工智能安全問題的分歧。

而很有意思的是，在Ilya Sutskever等人上周末最初逼走奧特曼后，第一時(shí)間爆出的消息——居然便是想要讓OpenAI和Anthropic合并。

在許多并非有效利他主義的信奉者眼中，他們的思想似乎很難被認(rèn)同。風(fēng)險(xiǎn)投資家、OpenAI投資人Vinod Khosla在《The Information》的一篇評(píng)論文章中就寫道：“OpenAI董事會(huì)成員對(duì)'有效利他主義'的信仰及其錯(cuò)誤應(yīng)用，可能會(huì)阻礙世界通往人工智能的巨大利益之路。”

奧特曼今年春天在全球巡回演講時(shí)，雖然警告人工智能可能造成嚴(yán)重危害，但他同樣認(rèn)為有效利他主義是一種“漏洞百出的運(yùn)動(dòng)”，表現(xiàn)出“非常奇怪的突發(fā)行為”。

風(fēng)險(xiǎn)投資公司Andreessen Horowitz的聯(lián)合創(chuàng)始人Marc Andreessen和初創(chuàng)企業(yè)孵化器Y Combinator的首席執(zhí)行官Garry Tan也對(duì)這一運(yùn)動(dòng)提出了批評(píng)。Tan稱這是一種沒有實(shí)質(zhì)意義的“美德信號(hào)哲學(xué)”，應(yīng)予以摒棄，以解決真正的問題，創(chuàng)造人類的富足。

普林斯頓大學(xué)一個(gè)研究該運(yùn)動(dòng)的團(tuán)隊(duì)研究員Shazeda Ahmed則指出，有效利他主義者對(duì)人工智能將毀滅人類的迫切恐懼，“遮蔽了他們接受對(duì)該文化外部批評(píng)的能力。這對(duì)任何試圖解決任何棘手問題的群體來說都不是好事。”

不過，人們?nèi)缃耧@然將無法忽視有效利他主義在硅谷乃至AI領(lǐng)域的影響力。這場(chǎng)運(yùn)動(dòng)的支持者包括Facebook的聯(lián)合創(chuàng)始人Dustin Moskovitz和Skype聯(lián)合創(chuàng)始人Jann Tallinn，他們已承諾為有效利他主義研究提供數(shù)十億美元。在去年FTX爆雷之前，F(xiàn)TX創(chuàng)始人Sam Bankman-Fried也曾認(rèn)捐了數(shù)十億美元。

最后，還有一個(gè)舉足輕重的名字顯然更為不容人們忽視——特斯拉CEO馬斯克。

馬斯克曾表示，有效利他主義運(yùn)動(dòng)的創(chuàng)始人、英國(guó)哲學(xué)教授威廉·麥克阿斯基爾（William MacAskill)“與我的哲學(xué)非常吻合”。而在過去一年，馬斯克已多次表達(dá)了對(duì)AI可能毀滅人類的擔(dān)憂。

來源：財(cái)聯(lián)社 作者：瀟湘