<nav id="4uuuu"></nav>
  • <tr id="4uuuu"></tr>
  • <tr id="4uuuu"></tr>
  • <tfoot id="4uuuu"><dd id="4uuuu"></dd></tfoot>
    • <noscript id="4uuuu"><optgroup id="4uuuu"></optgroup></noscript>

      亚洲的天堂A∨无码视色,尤物久久免费一区二区三区,国产醉酒女邻居在线观看,9AⅤ高清无码免费看大片

      AI換臉、AI變聲——深度偽造存風險,鑒別偽造正在AI對抗AI

      葉心冉2021-07-10 16:38

      經(jīng)濟觀察網(wǎng) 記者 葉心冉 深度偽造與鑒別偽造之間在展開一場技術博弈。

      7月9日,2021世界人工智能大會相關論壇上,國家工信安全中心人工智能所副所長劉永東在發(fā)表演講時指出,當前,人工智能的安全風險可分為三類,一是技術的內(nèi)生風險,二是數(shù)據(jù)隱私風險,三是技術濫用風險。 

      深度偽造便是屬于技術的內(nèi)生風險。資料顯示,深度偽造技術源自英文詞匯deepfake,是計算機“深度學習”(deep learning)和“偽造”(fake)的組合,指通過深度學習偽造數(shù)字內(nèi)容的人工智能技術,實質上是一種聲音、圖像與視頻的智能處理技術,能夠模仿特定人物或者讓特定人物看起來在做特定的事件。其效果可以達到以假亂真的程度,被稱為“音視頻領域的PS技術”。

      前段時間,從抖音到微博,多位大咖齊唱“螞蟻呀嘿”的畫面不斷刷屏,這一玩法來自于國外的一款AI軟件——Avatarify。這其實便是深度偽造技術的應用。

      瑞萊智慧 RealAI CEO田天指出,如果深度偽造技術被用于國家領導人或是知名專家虛假惡意的傳播,會在社會上引起不良后果。“所以我們需要用新的技術,用AI來對抗AI,用新的技術去檢測AI偽造的內(nèi)容。”

      7月9日,瑞萊智慧發(fā)布了DeepReal深度偽造內(nèi)容檢測平臺(基于第三代人工智能),能夠對多種格式與質量的圖像進行真?zhèn)舞b別,為遏制和防范深度偽造技術的大規(guī)模濫用提供支撐。

      瑞萊智慧RealAI副總裁唐家渝指出,深度偽造技術檢測工作當前面臨兩大難點:一是肉眼難以辨別,傳統(tǒng)人工內(nèi)容審核團隊無法應對,二是深度偽造檢測面臨"強對抗性",新型偽造方法層出不窮、網(wǎng)絡傳播環(huán)境復雜、算法模型存在結構性缺陷等。

      識別技術與偽造技術一樣扎根于深度學習算法,根據(jù)唐家渝介紹,一方面利用貝葉斯深度學習,將偽造視頻的先驗知識進行融合,以此增加對預測結果確定性的預判;二是能夠快速即時應對新型的深度偽造類型,一是利用貝葉斯深度學習,二是利用了小樣本增量學習的方法,使得在初期見到少量新型偽造數(shù)據(jù)時,便能學習到偽造特征。

      前不久,國家關注到深度偽造技術所存在的風險,對多家企業(yè)進行了約談。3月18日,國家互聯(lián)網(wǎng)信息辦公室、公安部指導各地網(wǎng)信部門、公安機關近日加強對語音社交軟件和涉“深度偽造”技術的互聯(lián)網(wǎng)新技術新應用安全評估工作。映客、小米、快手、字節(jié)跳動、鯨準數(shù)服、云賬戶、喜馬拉雅、阿里巴巴、網(wǎng)易云音樂、騰訊、去演等11家企業(yè)被各地方網(wǎng)信部門、公安機關依法約談。

      中國信息安全研究院副院長左曉棟曾指出,此次有約談,一方面是為了給部分平臺上存在涉深度偽造技術的安全隱患敲警鐘;另一方面也要求行業(yè)內(nèi)的相關企業(yè)依法依規(guī)保護用戶個人信息和名譽權,對于可能涉嫌違法犯罪的相關線索,要及時上報有關監(jiān)管部門。

      過去言有圖有真相,但是現(xiàn)在視頻都不一定代表著真相。深度偽造技術一方面有著被濫用的風險,另一方面,這其中還存在對人臉信息等生物識別信息的保護缺位的問題。

      人臉識別已經(jīng)逐步被運用到多個場景當中,但是人臉識別帶來的數(shù)據(jù)安全問題卻也愈發(fā)嚴峻。當人臉識別站上風口,爭議未曾間斷。其邊界在哪里?安全性如何確保? 

      多起企業(yè)違規(guī)收集人臉識別的事件曾被報道。以徐州為例,今年6月,徐州市公安局鼓樓分局網(wǎng)安大隊對徐州某工程項目部檢查時,發(fā)現(xiàn)該單位使用的人臉識別系統(tǒng),未對該系統(tǒng)采集到的個人信息采取保護措施。1月還曾發(fā)現(xiàn)徐州某樓盤售樓處安裝使用了人臉識別系統(tǒng),但在未征得客戶同意的情況下,非法收集、存儲人臉信息數(shù)千條,用于營銷使用。實際上,這已經(jīng)構成了非法獲取個人信息的違法行為。

      此前在采寫智能家居相關報道,與企業(yè)進行采訪和接觸的時候,涉及智能安防、人臉識別的企業(yè)會對人臉識別安全性的提問尤為敏感、謹慎。

      唐家瑜表示,人臉識別系統(tǒng)不安全的地方,在于兩個方面看,一是本身算法的問題,如果有人利用算法漏洞做相應的攻擊,就會有安全問題,另一類問題則與隱私相關,比如圖像被非法倒賣,再比如銀行資產(chǎn)等的風險。

      田天指出,AI之間的對抗是一個長期的過程,且對抗的方法也多種多樣。但從總體而言,“我們需要的是算法更加可靠安全、數(shù)據(jù)安全并且應用可控的人工智能。”

      版權聲明:以上內(nèi)容為《經(jīng)濟觀察報》社原創(chuàng)作品,版權歸《經(jīng)濟觀察報》社所有。未經(jīng)《經(jīng)濟觀察報》社授權,嚴禁轉載或鏡像,否則將依法追究相關行為主體的法律責任。版權合作請致電:【010-60910566-1260】。
      華東新聞中心記者
      關注華東地區(qū)上市公司,重點在消費、制造領域,善于捕捉熱點,追蹤有趣之事。 新聞線索聯(lián)系郵箱:yexinran@eeo.com.cn。

      熱新聞

      電子刊物

      點擊進入
      亚洲的天堂A∨无码视色
      <nav id="4uuuu"></nav>
    • <tr id="4uuuu"></tr>
    • <tr id="4uuuu"></tr>
    • <tfoot id="4uuuu"><dd id="4uuuu"></dd></tfoot>
      • <noscript id="4uuuu"><optgroup id="4uuuu"></optgroup></noscript>