21世紀經(jīng)濟報道記者 鐘雨欣 北京報道

利用AI“涉黃”問題已引發(fā)多個國家關(guān)注。據(jù)英國政府網(wǎng)站消息，利用生成式人工智能（AI）制作“深度偽造”色情圖像的人將被定罪。根據(jù)最新定罪標準，任何未經(jīng)同意創(chuàng)作這些可怕色情圖像的人，無論是否分享，都將被視為犯罪并處以無上限的罰款。假如這些圖像被廣泛傳播，始作俑者可能將入刑坐牢。

英國受害者和保護事務負責人勞拉·法里斯表示：“這是某些人企圖貶低他人的行徑，尤其是針對女性，假如相關(guān)物料廣泛傳播，很可能造成災難性后果，本屆政府絕不會容忍這種行為”。英國政府網(wǎng)站稱，近年來，“深度偽造”變得越來越普遍，全世界每個月的這類圖像瀏覽量達數(shù)百萬次。?

今年1月，美國流行樂歌星泰勒·斯威夫特的“AI偽造照片”在社交媒體上瘋傳，“震驚”美國白宮。在1月26日的白宮記者會上，發(fā)言人讓·皮埃爾回應此事，表示“網(wǎng)絡上的執(zhí)法不嚴對女性影響更大，她們是受到網(wǎng)絡騷擾和欺凌的主要目標。”

皮埃爾稱，“雖然社交媒體公司在內(nèi)容管理方面能做出獨立決定，但我們相信他們在執(zhí)行自己規(guī)則，防止錯誤信息和未經(jīng)同意的真實人物私密圖像傳播方面能發(fā)揮重要作用。”她還補充說，應該立法解決社交媒體上濫用人工智能技術(shù)的問題。

社交平臺“X”在1月26日發(fā)表聲明稱，嚴格禁止在該平臺上發(fā)布未經(jīng)同意的露骨內(nèi)容，對此類內(nèi)容采取零容忍政策，團隊正在積極刪除所有已識別的圖像，并對發(fā)布這些圖像的賬戶采取適當?shù)男袆樱送猓撈脚_連續(xù)幾天封鎖了對泰勒·斯威夫特的相關(guān)搜索。

在此事件之后，微軟公司1月29日宣布，對旗下AI圖片生成產(chǎn)品Designer引入更多“護欄”，以避免在未經(jīng)同意的情況下生成名人的露骨圖片。

除了名人之外，普通女性也成為了AI深度偽造色情圖片的受害者。據(jù)媒體報道，2023年9月，西班牙發(fā)生一起利用AI的深度偽造技術(shù)制作少女裸照的事件，至少有28名11歲至17歲的少女成為受害者，疑犯不僅將裸照在校園內(nèi)及網(wǎng)絡上傳播，甚至還利用裸照進行勒索。

2023年11月，一名14歲的新澤西州高中生表示,她和其他30多名女同學的照片被篡改并在網(wǎng)上分享，她呼吁聯(lián)邦機構(gòu)立法解決人工智能生成的露骨圖片問題。

2024年2月，在美國加州貝弗利山的一所中學，有學生利用AI技術(shù)偽造同學的裸照并在網(wǎng)絡上散布，引發(fā)當?shù)亟逃賳T的強烈譴責。

近年來，中國也發(fā)生了多起類似事件。2023年3月，“女子地鐵照被AI一鍵脫衣傳播”登上熱搜，而所謂的“裸照”其實是該女子此前分享在社交平臺的一張照片，原圖中該女子衣著正常，卻被AI技術(shù)“一鍵脫衣”，“除衣”后的照片被廣泛傳播。

2023年11月，杭州市蕭山區(qū)人民法院判決被告人虞某犯制作、傳播淫穢物品牟利罪，判處有期徒刑七年三個月，并處罰金6萬元。在該案中，虞某利用“AI換臉”軟件生成大量淫穢視頻進行傳播，被換臉的既包括不少女明星等公眾人物，也包括普通人。

檢察機關(guān)收集的證據(jù)顯示，虞某創(chuàng)建的眾多社交群組中，最少的成員95人，最多的成員達2053人，通過銷售換臉淫穢視頻以及定制換臉淫穢視頻等違法行為，虞某先后收取口令紅包200余次，總金額共計6萬余元。?

中國政法大學數(shù)據(jù)法治研究院教授張凌寒此前在接受21世紀經(jīng)濟報道記者采訪時表示，深度合成技術(shù)能否被合法應用，是關(guān)系互聯(lián)網(wǎng)信息內(nèi)容安全的大事。俗語說“耳聽為虛，眼見為實”“有圖有真相”，可見照片、視頻在公眾潛意識中的真實性遠勝文字。而深度合成技術(shù)則恰恰顛覆了這一公眾認知，可以偽造音頻、圖片、視頻，捏造人物的行為與語言。

在法律法規(guī)層面，我國已有相應規(guī)制。民法典規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。 此外，《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》要求，任何組織和個人不得利用深度合成服務制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息。《生成式人工智能服務管理暫行辦法》也明確，提供和使用生成式人工智能服務，應當遵守法律、行政法規(guī)，尊重社會公德和倫理道德。?