吳晨/文  ChatGPT如火如荼，讓人工智能再次成為全球矚目的顯學(xué)。在數(shù)據(jù)保護(hù)和隱私上最為保守的歐盟直接潑上一盆冷水，計(jì)劃更新即將出臺(tái)的全面人工智能法規(guī)——《人工智能法案》，對(duì)生成式AI生成圖像和文本的智能模型制定規(guī)則。加強(qiáng)監(jiān)管的出發(fā)點(diǎn)無(wú)疑是好的，但該如何監(jiān)管AI是一個(gè)動(dòng)態(tài)的過(guò)程，問(wèn)題將伴隨進(jìn)步而生，絕非一則法案可以限定。

許多人把ChatGPT的橫空出世視為又一個(gè)iPhone時(shí)刻，會(huì)對(duì)商業(yè)社會(huì)帶來(lái)一系列本質(zhì)的變化。另一些人則認(rèn)為生成式AI（ChatGPT背后的技術(shù)）是新的GPT，這里GPT的意思是通用技術(shù)（general purpose technology）。此前蒸汽、電力、計(jì)算機(jī)都是劃時(shí)代的GPT，也帶來(lái)巨大的改變，引發(fā)生產(chǎn)力革命，推動(dòng)指數(shù)級(jí)增長(zhǎng)，帶動(dòng)廣泛投資。如果ChatGPT是下一個(gè)iPhone，那么監(jiān)管也需要對(duì)未來(lái)它給商業(yè)和社會(huì)的本質(zhì)改變有所預(yù)判，而不是簡(jiǎn)單地對(duì)GPT的模型加以限制。

ChatGPT至少有三方面的風(fēng)險(xiǎn)值得我們深入思考。

首先，它強(qiáng)大的內(nèi)容生成功能是否會(huì)導(dǎo)致假新聞泛濫？目前ChatGPT無(wú)法判斷什么是真實(shí)，許多測(cè)試都顯示它能很自信地給出答案，卻不會(huì)確保答案的正確性。實(shí)際上，假新聞在全球已經(jīng)是網(wǎng)絡(luò)惡疾，網(wǎng)絡(luò)上也沒有真實(shí)的標(biāo)準(zhǔn)，而且一旦從事實(shí)領(lǐng)域進(jìn)入到認(rèn)知領(lǐng)域，真實(shí)更需要定義，不同認(rèn)知的人看待事物會(huì)明顯不同。GPT的推廣必然面臨著事實(shí)審核的問(wèn)題，誰(shuí)來(lái)做？需要引入人的判斷么？即使加入了人的判斷，也可能出現(xiàn)兩件情況：第一、人的判斷不一定準(zhǔn)確；第二、機(jī)器很容易形成繞過(guò)人的（主流）判斷的能力。另一方面，GPT的廣泛應(yīng)用也會(huì)讓炮制假新聞變得更加容易，為假新聞的泛濫推波助瀾。

其次，是否有墮入經(jīng)驗(yàn)主義的風(fēng)險(xiǎn)。ChatGPT所依賴的自然語(yǔ)言模型把相關(guān)性分析推向極致，卻無(wú)法真正生成因果性的邏輯思考，其結(jié)果仍然是知其然，而不知其所以然。目前來(lái)看，GPT所生成的文本，本身就是訓(xùn)練語(yǔ)料的平均數(shù)，在市場(chǎng)推廣、客服、銷售等應(yīng)用場(chǎng)景中幾乎可以替代人力，但真正出彩的創(chuàng)造力仍然缺乏。換句話說(shuō)，機(jī)器生成的語(yǔ)言仍然是對(duì)人類過(guò)往經(jīng)驗(yàn)的復(fù)刻，而不是真正的創(chuàng)新。GPT的廣泛應(yīng)用會(huì)生成平庸的海量?jī)?nèi)容，如果人簡(jiǎn)單地依賴機(jī)器，一個(gè)可能的危險(xiǎn)就是人類的思考和交流變得更加同質(zhì)化，原創(chuàng)性的東西越來(lái)越少，人類在海量平庸內(nèi)容面前甚至可能出現(xiàn)思維鈍化，思想的自由生長(zhǎng)遭遇挑戰(zhàn)。相比較通用人類智能（AGI）取代人類的風(fēng)險(xiǎn)，GPT帶來(lái)的同質(zhì)化風(fēng)險(xiǎn)對(duì)人類而言更高。

第三，從第二點(diǎn)引申出來(lái)，也可能產(chǎn)生AI-native（AI原住民）的異化。00后我們稱之為數(shù)字原住民，因?yàn)樽詮乃麄兌戮蜕钤谥悄茉O(shè)備的環(huán)境之中。以此類推，20后可能是AI原住民。問(wèn)題是，如果擬人式解答問(wèn)題的小助理隨處可在，他們從小就習(xí)慣AI給予的幫助，是否會(huì)失去了培養(yǎng)思考思辨能力的機(jī)會(huì)？在歐美，GPT已經(jīng)給教育體系帶來(lái)難題，以閱讀、分析、表達(dá)為培養(yǎng)學(xué)生思辨能力的這套教育體系，很依賴學(xué)生通過(guò)寫論文來(lái)訓(xùn)練他們的理解、總結(jié)和思辨能力。閱讀書的一篇章節(jié)、寫一篇讀書筆記、為申請(qǐng)一所大學(xué)寫一篇論述自己志愿的文章，是學(xué)生必備的技能。當(dāng)ChatGPT可以讓寫作變得那么容易，把知識(shí)的總結(jié)和組織變得唾手可得的時(shí)候，抓作弊，禁止學(xué)生使用GPT就成了不得之舉。但顯然，貓和老鼠的游戲沒有意義。我們需要思考的是人與機(jī)器的差別到底在哪兒，教育需要如何改革以培養(yǎng)原創(chuàng)力。此外，AI原住民如果從小就習(xí)慣于與人工智能作伴，是否會(huì)出現(xiàn)AI沉迷的問(wèn)題？

伴隨著技術(shù)的進(jìn)步，問(wèn)題會(huì)層出不窮。如果生成式AI會(huì)給人類帶來(lái)變革式的發(fā)展，那么未來(lái)對(duì)它所帶來(lái)問(wèn)題的討論也將持續(xù)不斷，這樣的討論最終都將圍繞著“人與機(jī)器的互動(dòng)中，何以為人”這一大命題展開。

（作者為《經(jīng)濟(jì)學(xué)人·商論》執(zhí)行總編輯）