AI換臉全球引爭議 Facebook聯手微軟發起檢測挑戰賽

北京時間9月6日早間消息，Facebook周四表示，該公司與微軟、Partnership on AI以及多所大學的學者共同發起了一場競賽，希望能更好地檢測深度偽造技術。

這家社交媒體巨頭將向“深度偽造檢測挑戰賽”投入1000萬美元，旨在激勵檢測研究。作為該項目的一部分，Facebook還委托研究人員生成逼真的深度偽造內容，通過這些數據集來測試檢測工具的效果。

該公司表示，即將于12月發布的這些視頻將以付費演員為特色，不會使用任何用戶數據。

一些研究人員正在研究一套通過數字水印在拍攝點驗證視頻或圖像的系統。但是，深度偽造技術的迅速發展在制作者與檢測者之間引發了軍備競賽。

“這是一場貓捉老鼠的比賽。如果我設計一個深度探測器，就會給攻擊者一個新的鑒別器進行測試。“紐約大學坦登學校計算機工程助理教授西德哈斯·加格（Siddharth Garg）說。

該技術的獲取成本也越來越低。上周，一個名為ZAO的中國應用允許用戶在電影或電視劇的片段中與明星換臉。雖然引發廣泛批評，但該應用還是迅速躥紅。

一些在線的深度偽造創作者也在開拓這種易于制作的深度偽造市場。位于波蘭和日本等國家的機器學習愛好者正在方便人們獲得定制的深度偽造內容。他們還向YouTube中上傳指導教程，有的還針對50個單詞的假冒特朗普演講收取30美元，也有一些運行自助服務網站來制作深度偽造內容。

“深度偽造檢測挑戰賽”并非Facebook第一次資助類似的學術研究。

Facebook表示，為了應對這一威脅，它正在為加州大學伯克利分校、馬里蘭大學和康奈爾大學的團隊投入750萬美元。

其中一支由加州大學伯克利分校教授韓迪·法里德（Hany Farid）負責的團隊正在構建“軟生物識別模型”，它將真正的政治家的面部怪癖映射出來，從參議員伯尼桑德斯的眉毛跳躍到參議員伊麗莎白沃倫的頭部轉彎，以檢測新視頻是否為假冒視頻。

Facebook的新競賽建立在與這些研究人員的聯系之上，將涉及來自康奈爾科技大學、麻省理工學院、牛津大學、加州大學伯克利分校、馬里蘭大學帕克分校和紐約州立大學奧爾巴尼的學者。

希夫在周四的聲明中稱，這次比賽是“有希望的一步”。