經(jīng)濟觀察網(wǎng) 記者 沈怡然 6月21日,北京瑞萊智慧科技有限公司(下稱“瑞萊智慧”)在2024年產(chǎn)品發(fā)布會上發(fā)布了一款面向個人用戶的AIGC(生成式人工智能技術(shù))實時檢測產(chǎn)品RealBelieve,能幫助用戶鑒別通話或網(wǎng)絡(luò)視頻中的人臉真?zhèn)危部稍谟脩魹g覽網(wǎng)頁內(nèi)容時提供AI合成可能性提示。
瑞萊智慧成立于2018年,專注于人工智能安全可控技術(shù),其客戶涵蓋金融、工業(yè)、公共安全等多個行業(yè)。RealBelieve產(chǎn)品中文名叫“尊嘟假嘟”,目前已開啟內(nèi)測招募。
會上,瑞萊智慧聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪稱,RealBelieve是一款軟件,用戶安裝后,在視頻通話時,產(chǎn)品會及時發(fā)出預(yù)警,提示視頻對方的人臉是否存在AI合成的風(fēng)險。實時的風(fēng)險提示可以幫助用戶及時調(diào)整溝通方式,快速確認對方的真實身份,避免損失;也可在用戶瀏覽網(wǎng)頁內(nèi)容時,針對一些網(wǎng)頁上的人物圖片,提供AIGC合成可能性的提示。
蕭子豪稱,該產(chǎn)品背后的檢測模型基于貝葉斯深度學(xué)習(xí)技術(shù)開發(fā),團隊構(gòu)建了一整套多模態(tài)AIGC檢測技術(shù)體系,能夠挖掘并建模多模態(tài)、多層次、多角度的AI合成線索,度量真假差異,并進行不確定性的推理和決策。
隨著人工智能進入大模型時代,數(shù)字人和AI生成的視頻內(nèi)容日益增多。瑞萊智慧創(chuàng)始人、CEO田天稱,但是AI系統(tǒng)其實是很脆弱的,一些AI算法對黑客攻擊的防御力非常薄弱。
田天舉例稱,攻擊者在圖像上施加細微、人眼難以察覺的干擾,能輕易誤導(dǎo)AI系統(tǒng)作出錯誤的識別。例如,在人臉識別場景中,通過在人臉圖像上施加微小的擾動,使得原本準確的人臉識別系統(tǒng)錯誤地將一個人識別為另一個人。這種脆弱性可能帶來多種詐騙風(fēng)險,攻擊者可以利用AI生成的數(shù)字人或視頻內(nèi)容冒充他人,進行詐騙或誤導(dǎo)公眾。