經(jīng)濟(jì)觀(guān)察網(wǎng) 記者 歐陽(yáng)曉紅

一

4月1日是“愚人節(jié)”，對(duì)ChatGPT意大利用戶(hù)來(lái)說(shuō)，這個(gè)“玩笑”開(kāi)大了；對(duì)OpenAI而言，卻有些猝不及防——它有20天的調(diào)整適應(yīng)期。

當(dāng)?shù)貢r(shí)間3月31日，以“非法收集個(gè)人資料；未成年人年齡核實(shí)系統(tǒng)缺失”之名，意大利個(gè)人數(shù)據(jù)監(jiān)管局（Guarantor for the Protection of Personal Data，GPDP）宣布禁用ChatGPT，直到它尊重隱私法規(guī)；行政措施立即生效。同時(shí)，監(jiān)管部門(mén)立案?jìng)刹椤?/p>

而在30日就發(fā)出的行政措施文件中，GPDP稱(chēng)，對(duì)ChatGPT進(jìn)行多次測(cè)試，并就用戶(hù)數(shù)據(jù)隱患問(wèn)題先后指出以下幾點(diǎn)：

1、ChatGPT并未告知用戶(hù)任何關(guān)于OpenAI通過(guò)該服務(wù)數(shù)據(jù)收集的相關(guān)信息。

2、缺失對(duì)于用戶(hù)個(gè)人數(shù)據(jù)的處理，以及對(duì)其作為ChatGPT算法優(yōu)化途徑的合格評(píng)判基準(zhǔn)。

3、服務(wù)方提供的數(shù)據(jù)相關(guān)信息與部分事實(shí)不符。

4、在OpenAI發(fā)布的條款中明確該公司產(chǎn)品不為13歲以下用戶(hù)提供服務(wù)，ChatGPT卻缺失任何對(duì)于用戶(hù)年齡的驗(yàn)證。

GPDP還稱(chēng)，3月20日發(fā)生了有關(guān)付費(fèi)服務(wù)訂閱者的用戶(hù)與ChatGPT對(duì)話(huà)和支付信息的數(shù)據(jù)泄露。并指出，最重要的是OpenAI缺乏法律依據(jù)來(lái)證明其收集和大量存儲(chǔ)個(gè)人數(shù)據(jù)是合理的，以便“訓(xùn)練”平臺(tái)操作的基礎(chǔ)算法。此外，根據(jù)OpenAI條款，服務(wù)用戶(hù)是13歲以上的人，但GPDP強(qiáng)調(diào)，沒(méi)有任何過(guò)濾器來(lái)驗(yàn)證用戶(hù)的年齡，使未成年人面臨對(duì)其發(fā)展程度和自我意識(shí)絕對(duì)不合適的答案。

OpenAI在歐盟未設(shè)辦事處，但在歐洲經(jīng)濟(jì)區(qū)任命了一名代表，GPDP要求其必須在20天內(nèi)反饋為實(shí)施GPDP要求而采取的措施，從該文件發(fā)布即日起，OpenAI有二十天的時(shí)間根據(jù)歐盟相關(guān)法律對(duì)產(chǎn)品作出調(diào)整，否則同樣根據(jù)歐盟法律，其將被處以最高2000萬(wàn)歐元或最高4%的全球年?duì)I業(yè)額的罰款。

因此，OpenAi需要在規(guī)定時(shí)間提供有關(guān)數(shù)據(jù)收集的所有文件，包括還必須明確要采用哪些系統(tǒng)來(lái)驗(yàn)證訪(fǎng)問(wèn)其服務(wù)的用戶(hù)年齡，悉數(shù)滿(mǎn)足要求后，才能繼續(xù)在意大利運(yùn)營(yíng)。

就此，OpenAI創(chuàng)始人Sam Altman在社交媒體上回應(yīng)，當(dāng)然會(huì)服從意大利政府，并已停止在意大利提供ChatGPT（盡管其認(rèn)為遵守所有的隱私法）。“意大利是我最喜歡的國(guó)家之一，期待很快再次訪(fǎng)問(wèn)。”

事實(shí)上，GPDP叫停ChatGPT后，OpenAi在意大利連夜暫停了對(duì)該服務(wù)的訪(fǎng)問(wèn)。4月1日，當(dāng)一早醒來(lái)的意大利用戶(hù)嘗試連接OpenAI時(shí)，得到的網(wǎng)頁(yè)響應(yīng)是：《網(wǎng)站所有者可能設(shè)置了阻止用戶(hù)訪(fǎng)問(wèn)的限制》。

針對(duì)付費(fèi)訂閱用戶(hù)，OpenAI將向3月份購(gòu)買(mǎi)ChatGPTPlus訂閱的意大利所有用戶(hù)退款；還暫停了意大利的訂閱續(xù)訂，以便在 ChatGPT 暫停期間不會(huì)向用戶(hù)收費(fèi)。

“我們致力于保護(hù)人們的隱私，并相信我們提供的 ChatGPT 符合GDPR和其他隱私法。我們將與意大利數(shù)據(jù)保護(hù)局合作，以盡快恢復(fù)您的訪(fǎng)問(wèn)權(quán)限。”OpenAI支持團(tuán)隊(duì)在致意大利ChatGPT用戶(hù)的公開(kāi)信中表示，“許多人告訴我們，發(fā)現(xiàn) ChatGPT 對(duì)日常任務(wù)很有幫助，我們期待很快再次提供它。”

二

是這樣嗎？據(jù)英國(guó)BBC報(bào)道，OpenAI承認(rèn)對(duì)數(shù)據(jù)的處理缺失存在漏洞，隨后又稱(chēng)ChatGPT之所以有收集數(shù)據(jù)的機(jī)制，是為了讓其“學(xué)習(xí)這個(gè)世界”，而非“學(xué)習(xí)用戶(hù)個(gè)人”，并表示“希望早日恢復(fù)對(duì)意大利的服務(wù)”。

問(wèn)題在于，意大利用戶(hù)不知道，20天“整改期”之后的結(jié)果如何。Sam Altman認(rèn)為，OpenAi遵守了所有的隱私法；但GPDP有異議，需要OpenAI提供相關(guān)證明文件（但它們看起來(lái)并不容易），包括對(duì)用戶(hù)年齡的核實(shí)系統(tǒng)問(wèn)題何解？而且，意大利對(duì)基于歐盟人權(quán)法律下的個(gè)人隱私權(quán)極其重視，GPDP行政措施中所列的每一項(xiàng)內(nèi)容均引自相關(guān)法律。

“我們需要停止ChatGPT，我們不知道它對(duì)我們的數(shù)據(jù)做了什么。”GPDP董事會(huì)成員之一的律師Guido Scorza就此接受媒體采訪(fǎng)時(shí)表示。

自2020年開(kāi)始，就一直是GPDP董事會(huì)成員的Guido Scorza說(shuō)，GPDP此次是獨(dú)立行動(dòng)。現(xiàn)在OpenAi有20天的時(shí)間來(lái)遵守規(guī)定。

當(dāng)被問(wèn)及ChatGPT 收集了哪些數(shù)據(jù)時(shí)，Guido Scorza稱(chēng)，并不清楚。“我們唯一可以說(shuō)的是（ChatGPT）收集個(gè)人數(shù)據(jù)是為了開(kāi)發(fā)算法。如果不是這種情況，當(dāng)我們向他詢(xún)問(wèn)或多或少有名的人物簡(jiǎn)介時(shí)，ChatGPT無(wú)法回答我們的問(wèn)題。”

提及律師與OpenAI的分歧或異議，Guido Scorza直言，特別是三種不同的違規(guī)行為：(a) 收集了數(shù)十億人的個(gè)人數(shù)據(jù)來(lái)訓(xùn)練他們的算法，而沒(méi)有告知他們這種情況，并且可能沒(méi)有適當(dāng)?shù)姆梢罁?jù)，(b)在對(duì)話(huà)期間收集用戶(hù)的個(gè)人數(shù)據(jù)在不告知他們這些數(shù)據(jù)的命運(yùn)的情況下，以及(c)生成內(nèi)容以回答問(wèn)題，這些內(nèi)容有時(shí)會(huì)歸因于人們不準(zhǔn)確和不真實(shí)的事實(shí)和情況，從而提出對(duì)他們個(gè)人身份的歪曲表述。

Guido Scorza舉例稱(chēng)，如果他問(wèn)聊天機(jī)器人Guido Scorza 是什么時(shí)候進(jìn)入數(shù)據(jù)保護(hù)局的，答案為2016年，但事實(shí)是2020年。“這（回答）還算不錯(cuò)；但如果他說(shuō)我在海邊撞到一個(gè)孩子然后逃跑了，而真相并非如此，那將永遠(yuǎn)毀了我的生活。而且我認(rèn)為我們不允許發(fā)生這種情況。”Guido Scorza說(shuō)。

他強(qiáng)調(diào)，這次GPDP是獨(dú)立行動(dòng)，因?yàn)?OpenAi不在歐洲相關(guān)隱私保護(hù)機(jī)構(gòu)合作程序之內(nèi)。不過(guò)，他認(rèn)為，接下來(lái)的幾天里，歐洲層面肯定會(huì)有討論的空間，以了解是否以及如何合作和共同行動(dòng)。

其畫(huà)外音或是，GPDP“打響禁用ChatGPT頭炮”之后，歐洲相關(guān)組織可能也會(huì)采取行動(dòng)。

“AI熱潮下，意大利禁用ChatGPT也許不會(huì)是個(gè)案。”分析人士認(rèn)為，“而OpenAI自身漏洞也是不可忽視的長(zhǎng)期隱患。在完全不知走向的科技革命中，任何一步均可能演變?yōu)闊o(wú)法彌補(bǔ)或逆轉(zhuǎn)的歷史，無(wú)論對(duì)錯(cuò)、代價(jià)如何；因此，現(xiàn)階段下的AI向前推進(jìn)的每一步都需審慎評(píng)估。”

就在幾天前，包括埃隆·馬斯克(Elon Musk) 在內(nèi)的1000多人聯(lián)名呼吁暫停高級(jí)人工智能的開(kāi)發(fā)，直到獨(dú)立專(zhuān)家開(kāi)發(fā)、實(shí)施和審計(jì)這類(lèi)設(shè)計(jì)的共享安全協(xié)議。

當(dāng)?shù)貢r(shí)間29日，據(jù)路透社報(bào)道，馬斯克和一群人工智能專(zhuān)家、行業(yè)高管在由非營(yíng)利組織未來(lái)生命研究所（FLI）發(fā)布的一封公開(kāi)信中，呼吁暫停開(kāi)發(fā)比GPT-4更強(qiáng)大的系統(tǒng)，暫停6個(gè)月，并指出其對(duì)社會(huì)和人類(lèi)存在潛在風(fēng)險(xiǎn)。他們?cè)谛胖袑?xiě)道：只有在我們確信它們的效果是積極的，風(fēng)險(xiǎn)是可控的情況下，才應(yīng)該開(kāi)發(fā)強(qiáng)大的人工智能系統(tǒng)。

這種擔(dān)憂(yōu)其實(shí)由來(lái)已久。在派拓網(wǎng)絡(luò)副總裁兼亞太及日本地區(qū)首席安全官Sean Duca看來(lái)，ChatGPT（AI）是把“雙刃劍”。多年來(lái)，全世界都在猜測(cè)AI可能即將統(tǒng)治世界。如今，用戶(hù)可以使用AI驅(qū)動(dòng)的安全工具和產(chǎn)品，在幾乎無(wú)需人為干預(yù)的情況下應(yīng)對(duì)大量網(wǎng)絡(luò)安全事件，但業(yè)余黑客也可以利用同樣的技術(shù)開(kāi)發(fā)智能惡意軟件程序并發(fā)起隱形攻擊。

Sean Duca認(rèn)為，ChatGPT帶來(lái)的網(wǎng)絡(luò)安全隱患不容忽視。比如，此前在拉斯維加斯舉行的黑帽和Defcon安全大會(huì)上，一個(gè)技術(shù)團(tuán)隊(duì)展示了AI在生成釣魚(yú)郵件和魚(yú)叉式釣魚(yú)信息方面是如何超越人類(lèi)的。當(dāng)務(wù)之急是采取智能化的行動(dòng)來(lái)化解這些不斷發(fā)展的威脅。好消息是自主響應(yīng)如今能夠在無(wú)需人類(lèi)干預(yù)的情況下有效解決威脅。但隨著AI驅(qū)動(dòng)的攻擊成為常態(tài)，受到自動(dòng)化惡意軟件攻擊的企業(yè)、政府和個(gè)人需要越來(lái)越多地依靠AI和機(jī)器學(xué)習(xí)（ML）等新興技術(shù)做出自動(dòng)化響應(yīng)。

誠(chéng)然，隨著技術(shù)的發(fā)展，人們?cè)絹?lái)越多地意識(shí)到數(shù)據(jù)隱私和保護(hù)的重要性。根據(jù)Gartner預(yù)測(cè)，到2024年末，全球75%人口的個(gè)人數(shù)據(jù)將得到現(xiàn)代隱私法規(guī)的保護(hù)。面對(duì)愈發(fā)完善的數(shù)據(jù)法律法規(guī)，作為數(shù)據(jù)管理領(lǐng)域全球領(lǐng)導(dǎo)者的Commvault列出了2023年數(shù)據(jù)隱私和保護(hù)的十大工作重點(diǎn)。

其中，重點(diǎn)一是數(shù)據(jù)保護(hù)策略：在不斷變化的數(shù)據(jù)環(huán)境中，企業(yè)應(yīng)該創(chuàng)建整體數(shù)據(jù)保護(hù)策略中的數(shù)據(jù)隱私、備份和恢復(fù)，以及災(zāi)難恢復(fù)計(jì)劃，并不斷更新。重點(diǎn)二是“加密”，加密對(duì)于數(shù)據(jù)保護(hù)和保護(hù)隱私數(shù)據(jù)至關(guān)重要。數(shù)據(jù)加密有助于防止對(duì)個(gè)人信息的未授權(quán)訪(fǎng)問(wèn)。這對(duì)于醫(yī)療機(jī)構(gòu)、金融機(jī)構(gòu)等需要處理大量隱私數(shù)據(jù)的企業(yè)機(jī)構(gòu)尤為重要。

此外的重點(diǎn)六是數(shù)據(jù)治理和洞察；調(diào)查顯示，57%的首席信息安全官承認(rèn)，他們不清楚他們的一部分?jǐn)?shù)據(jù)（或所有數(shù)據(jù)）位于何處，又是如何被保護(hù)的。隨著隱私數(shù)據(jù)量的不斷增長(zhǎng)，法規(guī)的數(shù)量也在成倍增加。企業(yè)需要了解他們的數(shù)據(jù)，包括數(shù)據(jù)的位置以及哪些數(shù)據(jù)存在風(fēng)險(xiǎn)等等。企業(yè)如此，個(gè)人數(shù)據(jù)保護(hù)亦然。

“AI和人類(lèi)之間的微妙平衡將成為實(shí)現(xiàn)網(wǎng)絡(luò)安全的關(guān)鍵因素。”Sean Duca表示。