隨著AI技術(shù)快步邁入大規(guī)模應(yīng)用的階段，技術(shù)遭到惡意濫用的問(wèn)題再度浮上水面。前陣子一度引發(fā)微博熱議的“一鍵修圖變成一鍵去衣”，正在美國(guó)以更加惡意的形式上演。

據(jù)美國(guó)技術(shù)媒體404 Media周五報(bào)道，在該媒體的推動(dòng)下，蘋(píng)果、谷歌分別從應(yīng)用商店內(nèi)下架了多款標(biāo)榜能夠進(jìn)行“一鍵去衣”的應(yīng)用。真正的問(wèn)題在于，包括收廣告費(fèi)推廣這些應(yīng)用的Meta在內(nèi)，這些互聯(lián)網(wǎng)巨頭似乎并不能自行找到這些違反其政策的應(yīng)用。

惡意AI應(yīng)用“登堂入室”

報(bào)道稱(chēng)，通過(guò)比對(duì)Meta平臺(tái)的廣告資料庫(kù)，404 Media找到一系列推廣“一鍵去衣”軟件的廣告，投放記錄顯示宣傳這些惡意AI軟件的廣告曾在3、4月間，在Meta旗下的多款社交媒體平臺(tái)上投放。

這類(lèi)軟件標(biāo)榜的功能，正是可以上傳真人照片，并且可以“一鍵擦除任意衣服”，開(kāi)發(fā)者通過(guò)收費(fèi)來(lái)牟利。

更令人震驚的是，這類(lèi)軟件并不是存活在互聯(lián)網(wǎng)的陰暗角落中，而是正大光明地出現(xiàn)在蘋(píng)果應(yīng)用商店里。當(dāng)用戶(hù)點(diǎn)擊社交媒體上的廣告后，會(huì)直接跳轉(zhuǎn)至蘋(píng)果應(yīng)用商店。在商店里的應(yīng)用被偽裝成了AI藝術(shù)生成器，并沒(méi)有披露應(yīng)用背后的實(shí)際用處（因?yàn)檫@肯定違反應(yīng)用商店政策）。

在本周這件事情被曝光前，這些廣告仍一直在Meta的社交平臺(tái)上掛著，非法應(yīng)用也一直混跡在蘋(píng)果、谷歌的應(yīng)用商店里。

接到舉報(bào)后，Meta找到爆料的媒體，請(qǐng)求他們“將所有看到的廣告鏈接發(fā)給他們”，并迅速下架刪除。公司發(fā)言人Daniel Roberts隨后表示，Meta不允許存在成人內(nèi)容的廣告，一旦發(fā)現(xiàn)會(huì)迅速刪除。公司接下來(lái)將加大審查力度，并對(duì)違反政策的賬戶(hù)采取行動(dòng)。

周五的最新消息顯示，蘋(píng)果公司在收到舉報(bào)后，也把媒體發(fā)現(xiàn)的3款應(yīng)用程序做了下架處理。谷歌則在近期下架了一款A(yù)I“換臉”程序。

事實(shí)上，這類(lèi)具有“深度偽造”（DeepFake）功能的app至少在2022年就已經(jīng)出現(xiàn)在應(yīng)用商店里，但當(dāng)時(shí)蘋(píng)果、谷歌接到舉報(bào)后，僅僅是要求開(kāi)發(fā)者停止投放廣告宣傳不法用途，而不是將其下架。

已有美國(guó)學(xué)生因此被捕

雖然互聯(lián)網(wǎng)平臺(tái)對(duì)這類(lèi)app處理的方式頗為被動(dòng)，但這些應(yīng)用已經(jīng)產(chǎn)生了惡劣的社會(huì)后果。

據(jù)《連線(xiàn)》雜志報(bào)道，去年12月有兩名佛羅里達(dá)州的中學(xué)生，因?yàn)槭褂肁I生成同學(xué)的裸照遭到警方逮捕和重罪控訴。

警方提供的報(bào)告稱(chēng)，兩名男孩的年齡分別是13和14歲，所制作照片的對(duì)象是12至13歲之間的學(xué)生。根據(jù)佛羅里達(dá)州法律，他們的行為與重大汽車(chē)盜竊、非法拘禁同屬三級(jí)重罪。

雖然該案被美國(guó)媒體稱(chēng)為“首個(gè)引發(fā)逮捕和起訴的案例”，但在公開(kāi)報(bào)道中，加州、華盛頓州、新澤西州的中學(xué)都有過(guò)類(lèi)似的事件，只不過(guò)沒(méi)有提到是否引發(fā)刑事指控。

目前在美國(guó)只有十個(gè)州將此類(lèi)行為入罪，并沒(méi)有聯(lián)邦層面的法律進(jìn)行規(guī)管。轉(zhuǎn)機(jī)出現(xiàn)在今年1月底，由于在馬斯克的X平臺(tái)上爆發(fā)使用AI制作泰勒·斯威夫特露骨照片的事件。在事態(tài)最嚴(yán)重的狀態(tài)下，X平臺(tái)不得不禁止使用“泰勒·斯威夫特”作為關(guān)鍵詞進(jìn)行搜索。

在這一事件后，美國(guó)參議院兩黨議員聯(lián)合提起了一項(xiàng)名為《2024打擊非法偽造圖像和未經(jīng)同意編輯法案》的立法。

聯(lián)名提出這項(xiàng)法案的共和黨參議員喬什·霍利當(dāng)時(shí)對(duì)媒體表示，無(wú)論是明星還是普通人，都不應(yīng)該發(fā)現(xiàn)自己出現(xiàn)在A(yíng)I色情制品中。無(wú)辜者有權(quán)捍衛(wèi)自己的名譽(yù)，并在法庭上追究加害者的責(zé)任。

轉(zhuǎn)載來(lái)源：財(cái)聯(lián)社 作者：史正丞