早前，非營利組織AI安全中心（Center for AI Safety）發(fā)布了一份簡(jiǎn)短聲明，提醒公眾降低AI風(fēng)險(xiǎn)應(yīng)成為全球優(yōu)先事項(xiàng)。為這份聲明背書的，包括了OpenAI首席執(zhí)行官山姆·奧爾特曼（Sam Altman）、DeepMind首席執(zhí)行官戴密斯·哈薩比斯（Demis Hassabis），以及微軟和谷歌高管在內(nèi)的350多位AI領(lǐng)域?qū)＜摇Ｔ谏现芘e行的北京智源大會(huì)上，奧爾特曼也倡議全球就AI安全問題進(jìn)行協(xié)作。

ChatGPT的誕生激發(fā)了前所未有的創(chuàng)造浪潮，也讓公眾直觀地感受到生成式AI的力量。但缺少規(guī)范的技術(shù)如同一個(gè)尚未辨知善惡的新生兒，在帶給人類極大幫助的同時(shí)，也潛藏著新的風(fēng)險(xiǎn)。

比如，新加坡《海峽時(shí)報(bào)》曾報(bào)道某科技企業(yè)工程師在借助ChatGPT處理工作時(shí)，無意中將產(chǎn)品核心數(shù)據(jù)輸入其中，導(dǎo)致商業(yè)機(jī)密外泄。越來越多ChatGPT用戶也發(fā)現(xiàn)，在與AI對(duì)話時(shí)會(huì)收獲一些細(xì)節(jié)豐滿的故事，甚至言之鑿鑿的文獻(xiàn)介紹，但實(shí)際上這些并非真實(shí)信息，而是生成式AI的“模型幻想”（model hallucination）。

生成式AI風(fēng)險(xiǎn)何在？

對(duì)企業(yè)而言，生成式AI將改變工作方式、重塑商業(yè)模式。越來越多的企業(yè)已開始積極探索相關(guān)應(yīng)用，以期提升創(chuàng)新效率、實(shí)現(xiàn)高質(zhì)增長(zhǎng)。但生成式AI的風(fēng)險(xiǎn)同樣需要引起重視。

首當(dāng)其沖的就是合規(guī)風(fēng)險(xiǎn)，它貫穿于模型設(shè)計(jì)、搭建、使用各個(gè)階段，并會(huì)產(chǎn)生長(zhǎng)遠(yuǎn)的效應(yīng)。比如，生成式AI基于學(xué)習(xí)需要而對(duì)用戶數(shù)據(jù)的留存、分析是否侵犯了個(gè)人和商業(yè)隱私，以及相關(guān)數(shù)據(jù)保護(hù)法案；它在借鑒創(chuàng)意作品（如畫作）的過程中，是否侵犯了作者版權(quán)和著作權(quán)；由此產(chǎn)出的作品又是否可用于商業(yè)用途；甚至使用生成式AI本身，是否違反了部分國家和地區(qū)的法律法規(guī)。

同樣可能在生成式AI的生命周期中出現(xiàn)的還有數(shù)據(jù)風(fēng)險(xiǎn)。生成式AI的運(yùn)作核心是機(jī)器學(xué)習(xí)，其價(jià)值與數(shù)據(jù)的質(zhì)量和真實(shí)性密切相關(guān)。如果一臺(tái)基礎(chǔ)模型長(zhǎng)期浸染在存有偏差的數(shù)據(jù)當(dāng)中，它就會(huì)被這些數(shù)據(jù)“誘導(dǎo)”，從而輸出錯(cuò)誤的信息或執(zhí)行歧視性操作。另一方面，某些群體特質(zhì)也會(huì)使生成式AI為其打上固化標(biāo)簽，“一刀切”地去執(zhí)行某些程序，而失去了應(yīng)有的公平性。

此外，用戶風(fēng)險(xiǎn)也是需要重點(diǎn)關(guān)注的一環(huán)。事在人為。生成式AI的價(jià)值高低，很大程度上取決于使用它的人。我們需要通過一系列的法律法規(guī)、流程規(guī)范來防止人類有意、無意地使用生成式AI造成負(fù)面影響。

價(jià)值風(fēng)險(xiǎn)也是企業(yè)和使用者應(yīng)該考慮的內(nèi)容，即使用生成式AI是否可能有違社會(huì)、企業(yè)和個(gè)人的價(jià)值文化。比如，《MIT技術(shù)評(píng)論》曾指出訓(xùn)練一臺(tái)普通AI模型消耗的能源，相當(dāng)于五輛汽車全生命周期排放的碳總量。為此，在部署AI戰(zhàn)略的時(shí)候，我們必須思考相關(guān)碳排放是否會(huì)減緩乃至抵消企業(yè)的零碳進(jìn)程，繼而有所取舍。

埃森哲認(rèn)為，打造負(fù)責(zé)任的生成式AI，不是一項(xiàng)“見招拆招”、“亡羊補(bǔ)牢”的局部任務(wù)，而是在生成式AI基礎(chǔ)模型的設(shè)計(jì)之初就應(yīng)未雨綢繆，并在其全生命周期中持續(xù)領(lǐng)航匡正的系統(tǒng)性工程。

負(fù)責(zé)任的AI，促進(jìn)業(yè)務(wù)增長(zhǎng)

令人慶幸的是，大多數(shù)的政府部門和企業(yè)已經(jīng)意識(shí)到讓生成式AI更“有責(zé)任感”的重要性并開始采取積極行動(dòng)。埃森哲最新全球調(diào)研顯示，97%的受訪高管認(rèn)為自身企業(yè)將受到AI相關(guān)監(jiān)管法案的影響，77%將對(duì)于AI的監(jiān)管列為優(yōu)先事項(xiàng)。此外，有80%的受訪者表示，他們將投入10%或更多的AI總預(yù)算，以滿足未來的監(jiān)管要求；69%的受訪高管表示所在企業(yè)已經(jīng)開始嘗試負(fù)責(zé)任的AI實(shí)踐，但并未將其作為運(yùn)營基礎(chǔ)。

值得注意的是，不少受訪者認(rèn)為，合規(guī)的AI將為其提供額外的競(jìng)爭(zhēng)優(yōu)勢(shì)——43%的高管認(rèn)為這將提高他們將AI產(chǎn)業(yè)化和規(guī)模化的能力，36%認(rèn)為它將為競(jìng)爭(zhēng)優(yōu)勢(shì)和差異化創(chuàng)造機(jī)會(huì)，41%認(rèn)為它可以幫助吸引和留住人才。

與之相應(yīng)，在去年發(fā)布的埃森哲《AI成熟之道：從實(shí)踐到實(shí)效》報(bào)告中，我們還發(fā)現(xiàn)，有13%的受訪企業(yè)成功使用AI技術(shù)實(shí)現(xiàn)了超過50%的收入增長(zhǎng)，同時(shí)在客戶體驗(yàn)（CX）和環(huán)境、社會(huì)與治理（ESG）方面表現(xiàn)出色。相較于普通企業(yè)，這些“AI領(lǐng)軍者”更加注重從設(shè)計(jì)企業(yè)各個(gè)環(huán)節(jié)的時(shí)候就把負(fù)責(zé)任的AI列為優(yōu)先事項(xiàng)。

新加坡是金融科技的沃土，不少機(jī)構(gòu)都已開始將AI技術(shù)用于信用卡審批、保險(xiǎn)理賠等金融服務(wù)領(lǐng)域，在大幅提升工作效率的同時(shí)顯著降低運(yùn)營成本。但作為監(jiān)管方，新加坡金融管理局看到了其中隱含的風(fēng)險(xiǎn)——如果放任AI自我學(xué)習(xí)，可能造成潛在的群體歧視。

為此，他們組建了一個(gè)由25家機(jī)構(gòu)組成的行業(yè)聯(lián)盟，并在2018年發(fā)布了以公平、倫理、問責(zé)、透明為核心的“FEAT原則”，為金融機(jī)構(gòu)采用負(fù)責(zé)任AI提供指導(dǎo)。作為開發(fā)小組成員，埃森哲為其打造了用于評(píng)估模型公平性的工具包，以保證FEAT原則的執(zhí)行。

目前，埃森哲與新加坡金融管理局仍保持著密切協(xié)作，在整個(gè)行業(yè)深化推進(jìn)負(fù)責(zé)任AI的落地與優(yōu)化，為金融機(jī)構(gòu)提供建議，并致力于培養(yǎng)一批擁有相關(guān)知識(shí)和經(jīng)驗(yàn)的專業(yè)人員，鼓勵(lì)更多科技企業(yè)創(chuàng)建符合FEAT原則的AI解決方案。

設(shè)計(jì)負(fù)責(zé)任的生成式AI

雖然多數(shù)企業(yè)已經(jīng)認(rèn)識(shí)到培育負(fù)責(zé)任AI的價(jià)值并正致力于此，但只有6%的企業(yè)建立了負(fù)責(zé)任的AI基礎(chǔ)并將該原則付諸實(shí)踐。過于傳統(tǒng)的組織架構(gòu)、風(fēng)險(xiǎn)管理框架、生態(tài)伙伴、AI人才和考核標(biāo)準(zhǔn)，都是限制企業(yè)成功的主要原因。

埃森哲建議，企業(yè)可以從原則與治理，風(fēng)險(xiǎn)、政策與管控，技術(shù)與支持，文化與培訓(xùn)四個(gè)層面入手，通過設(shè)計(jì)讓生成式AI變得更負(fù)責(zé)任。

原則與治理：在最高管理層的支持下，定義并闡明負(fù)責(zé)任AI的使命和原則，同時(shí)在整個(gè)組織中建立清晰的治理結(jié)構(gòu)，以建立對(duì)AI技術(shù)的信心和信任。

風(fēng)險(xiǎn)、政策與控制：加強(qiáng)對(duì)既定原則和現(xiàn)行法律法規(guī)的遵守，同時(shí)監(jiān)測(cè)未來的法律法規(guī)，制定降低風(fēng)險(xiǎn)的政策，并通過定期報(bào)告和監(jiān)控的風(fēng)險(xiǎn)管理框架實(shí)施這些政策。

技術(shù)與支持：開發(fā)工具和技術(shù)來支持公平性、可解釋性、穩(wěn)健性、問責(zé)制和隱私等原則，并將其構(gòu)建到AI系統(tǒng)和平臺(tái)中。

文化與培訓(xùn)：推動(dòng)領(lǐng)導(dǎo)層將負(fù)責(zé)任AI提升為一項(xiàng)關(guān)鍵的業(yè)務(wù)要?jiǎng)?wù)，并為所有員工提供培訓(xùn)，讓他們清楚地了解負(fù)責(zé)任AI原則以及如何將這些原則轉(zhuǎn)化為行動(dòng)。

在生成式AI的發(fā)展道路上，價(jià)值與風(fēng)險(xiǎn)始終并存，關(guān)鍵在于設(shè)計(jì)、搭建、使用它的企業(yè)和個(gè)人如何作為。打造負(fù)責(zé)任的生成式AI，讓創(chuàng)新科技的成果合規(guī)、安全、平等地惠及每一家企業(yè)、每一個(gè)人。