陳沛/文 最近美國芝加哥大學(xué)研究團(tuán)隊的AI數(shù)據(jù)投毒工具Nightshade正式發(fā)布了，據(jù)稱上線后短短5天內(nèi)下載量就突破了25萬，受歡迎程度遠(yuǎn)遠(yuǎn)超過了研究團(tuán)隊的預(yù)期。

幾個月前，這個團(tuán)隊宣布要推出Nightshade時我就關(guān)注過，因?yàn)樗c常見的給AI生成內(nèi)容添加水印或者標(biāo)識的思路不同。

Nightshade能夠支持藝術(shù)家上傳自己的原創(chuàng)畫作，然后在畫作中嵌入有毒數(shù)據(jù)，這些數(shù)據(jù)會被機(jī)器學(xué)習(xí)算法識別成錯誤的信息，例如一輛車有四條腿。因此，如果AI公司未經(jīng)藝術(shù)家許可，使用了幾十幅這樣的圖像來訓(xùn)練AI圖像生成系統(tǒng)，就相當(dāng)于被投毒了，這個系統(tǒng)的輸出正確性就會急劇下降。

可以看出，由于藝術(shù)家對于藝術(shù)作品被隨意用于AI訓(xùn)練的強(qiáng)烈不滿，隨著Nightshade的出現(xiàn)，藝術(shù)家撿起了AI數(shù)據(jù)投毒工具，開始轉(zhuǎn)守為攻。

這樣一來，AI的發(fā)展肯定會出現(xiàn)一些的新的變化。

AI開發(fā)者肯定要在數(shù)據(jù)清洗和安全驗(yàn)證方面增加工作量，AI模型開發(fā)的成本和復(fù)雜度會進(jìn)一步提高。在AI應(yīng)用運(yùn)營的過程中，也會持續(xù)引入數(shù)據(jù)驗(yàn)證的技術(shù)環(huán)節(jié)來識別和過濾投毒數(shù)據(jù)，保證AI模型運(yùn)行的可靠性。

這可能會推動AI行業(yè)向更加尊重版權(quán)、更透明的獲取訓(xùn)練數(shù)據(jù)的方向轉(zhuǎn)變。與此同時，也可能會有出現(xiàn)相關(guān)的發(fā)展倡議和行動指南，要求AI技術(shù)的健康發(fā)展不能對個人的基本權(quán)益造成潛在影響。

AI數(shù)據(jù)投毒工具Nightshade的出現(xiàn)是一個重要事件。它不光反映出了AI發(fā)展與版權(quán)保護(hù)之間的緊張關(guān)系，更標(biāo)志著我們即將迎來AI帶來的第2類風(fēng)險。

站在行業(yè)觀察的角度，我認(rèn)為AI發(fā)展帶來的風(fēng)險主要分為3類。第1類是AI被用于各類惡意用途之中，例如偽造、虛假宣傳、欺詐、網(wǎng)絡(luò)攻擊等；第2類是在各種對抗攻防中演變出的AI利用風(fēng)險；第3類則是AI發(fā)展速度過快超過人類預(yù)期的風(fēng)險。

其中，第1類是已知風(fēng)險，在AI出現(xiàn)前就已經(jīng)存在，只不過AI的應(yīng)用提升了這類風(fēng)險的危害性。今天正在推進(jìn)的各類AI風(fēng)險防范要求，也多聚焦于此。

第2類和第3類則是未知風(fēng)險。就算進(jìn)行細(xì)致的研究和推演，也很難知道這些風(fēng)險的全貌。例如在Nightshade出現(xiàn)之前，業(yè)界在沿用AI生成內(nèi)容水印的發(fā)展思路，但是出現(xiàn)了這樣一個能投毒的對抗工具，或許就會成為內(nèi)容保護(hù)的主要工具。這種對抗帶來的風(fēng)險，在之前的風(fēng)險分析中并不容易被考慮到。

除了Nightshade，最近Anthropic也有關(guān)于AI模型訓(xùn)練過程中嵌入后門的研究成果出來，預(yù)計我們還會看到越來越多的AI對抗攻防風(fēng)險浮出水面。

最后，關(guān)于AI發(fā)展速度過快超過人類預(yù)期的風(fēng)險，Hinton還有Sutskever這些走在AI前沿的研究學(xué)者都有過論述，它的內(nèi)涵已經(jīng)上升到價值觀和發(fā)展觀的層面了，不是在一篇或兩篇文章中能講的了。不過，我仍維持在前面文章中的基本判斷，AI的發(fā)展會越來越快，它帶來的變化、機(jī)遇、風(fēng)險、挑戰(zhàn)都會比現(xiàn)在預(yù)想的更大。