DeepFake虛假內容泛濫，Twitter出手了
時間：2019-11-12 | 欄目：業界 | 點擊：次
北京時間11月12日下午消息，據路透社報道，社交媒體平臺Twitter周一宣布，公司擬推出處理人工智能合成（deepfake）視頻和其他篡改內容的計劃，并呼吁公眾積極反饋。
隨著2020年11月的美國總統大選一日日趨近，社交媒體也承受著越來越大的壓力，需應對各種被篡改的內容，包括人工智能合成的視頻。Twitter在公司的一篇博客文章里提到了這個新的計劃，稱平臺打算在推文下方附加一條提示信息——“包含合成或篡改內容”，在人們點贊或轉發推文前給予提示，或者在新聞報道下方增加一個鏈接說明為什么大多數人認為該內容是合成或篡改的。
公司還表示，若包含這類內容的推文具有誤導性并有可能威脅人身安全或導致其他嚴重傷害的，公司或可從平臺上刪除這類內容。
根據博客文章，Twitter提議將合成和篡改的內容定義為任何“以誤導大眾或改變其愿意為目的而實質性更改或偽造過的”照片、音頻或視頻，意味著人工智能合成內容或手中合成的內容亦將被歸來為合成和篡改的內容。
去年，Twitter已經禁止對私密內容進行人工智能合成編輯：公司的政策禁止在平臺上發布采用數字方式將一個人的頭像合成到另一個裸體身上的照片或視頻。
盡管精心合成的視頻尚未在美國造成嚴重的政治后果，但這類視頻所能造成的混亂已經在5月份的時候得到印證。彼時，眾議院議長南希·佩洛西（Nancy Pelosi）的一段視頻被有意放慢，造成醉酒的假象。
佩洛西視頻之后，Facebook的首席執行官馬克·扎克伯格（Mark Zuckerberg）也遭到惡搞。一段惡搞視頻在Instagram上流傳，視頻里扎克伯格說“誰掌握了數據，誰就掌握未來”。但Facebook事后并未刪除這段視頻。
7月份，美國眾議院情報委員會主席亞當·希夫（Adam Schiff）致信Facebook、Twitter和谷歌的首席執行官們，要求各公司在2020年大選之前出臺應對人工智能合成圖像和視頻的策略。
Twitter已經公開其新計劃，并邀請公眾通過#TwitterPolicyFeedback話題發表建議，直至11月27日。
上個月，亞馬遜旗下的亞馬遜網絡服務（AWS）也表示將與Facebook和微軟一起接受“人工智能合成檢測挑戰”。