多家公司包括 Microsoft і Facebook，甚至南加州大學的研究人員都在開發技術來打擊深度造假，並防止它們通過黃色媒體和一般錯誤信息傳播。 然而，一群科學家仍然設法欺騙了他們。
加利福尼亞大學聖地亞哥分校的一組計算機科學家警告說，通過在每個視頻幀中插入稱為“競爭示例”的輸入數據，仍然有可能欺騙現有的 deepfake 檢測系統。 科學家們在上個月在線舉行的 WACV 2021 計算機視覺會議上展示了他們的發現。
競爭示例是稍微改變的輸入，會導致人工智能係統（例如機器學習模型）出錯。 此外，該團隊表明該攻擊在壓縮視頻後仍然有效。 在上面的視頻中，科學家們展示了深度偽造檢測器 XceptionNet 將他們的競爭視頻標記為“真實”。
這些檢測器中的大多數通過跟踪視頻中的人臉並將裁剪的人臉數據發送到神經網絡進行分析來工作。 然後，神經網絡將分析這些數據，並找到通常在 deepfake 中難以重現的元素，例如閃爍。
通過插入相互競爭的例子，研究人員發現他們可以欺騙這些 deepfake 檢測器，讓他們相信這些視頻是真實的。
他們在論文中指出，“為了在實踐中使用這些深度偽造檢測器，重要的是要針對意識到這種保護並故意試圖破壞它的自適應對手來評估它們。 我們表明，如果攻擊者完全甚至部分了解檢測器，則可以輕鬆繞過現代 deepfake 檢測方法。”
正如這些科學家所表明的那樣，為打擊虛假信息而開發的自動化技術可能還不能勝任這項任務。
另請閱讀：