週二，Meta 宣布計劃開始標記 OpenAI 和 Google 等其他公司的人工智慧生成圖像。此舉旨在提高平台的透明度，例如 Facebook, Instagram 和 Threads，通知用戶他們正在查看的內容是合成的數位媒體，而不是真實的照片或影片。
Meta 的解決方案是科技業更廣泛努力的一部分，旨在為使用生成式 AI 模型創建的標籤內容制定標準，這些模型能夠根據書面提示創建虛假但真實的音訊、圖像和視訊。
Meta 的全球事務總裁 Nick Clegg 在 Meta 網站上的一篇部落格文章中宣布了這一消息。克雷格寫道：“明年，我們將繼續採取這種做法，屆時世界各地將舉行一些重要的選舉。” “在此期間，我們希望更多地了解人們如何利用人工智慧創建和共享內容、人們最重視什麼透明度以及這些技術是如何發展的。”
Clegg 指出，Meta 的人工智慧生成內容標記計劃將擴展使用其自己的人工智慧工具創建的標記內容的現有做法，以包括使用其他公司的服務創建的圖像。
「我們正在建立業界領先的工具，可以大規模識別隱形標記，特別是 C2PA 和 IPTC 技術標準中的『人工智慧生成』訊息，這樣我們就可以標記來自 Google、OpenAI、 Microsoft、Adobe、Midjourney 和 Shutterstock，他們正在實施向其工具創建的圖像添加元數據的計劃。”
Meta 表示，人工智慧產生的內容標籤技術將基於文件中嵌入的不可見浮水印和元資料。 Meta 在使用其公共 AI 圖像生成器創建的圖像中添加了一個小的「Imagined with AI」浮水印。
在貼文中，克萊格表示對公司可靠地標記人工智慧生成的圖像的能力充滿信心，儘管他指出用於標記音訊和視訊內容的工具仍在開發中。同時，Meta 將要求用戶標記修改後的音訊和視訊內容，如果不這樣做，將面臨未具體說明的罰款。
他寫道：“我們將要求人們在發布帶有數字創建或更改的逼真視頻或逼真聲音的有機內容時使用此披露和標籤工具，如果他們不這樣做，我們可能會實施處罰。”
然而，克萊格指出，目前還沒有有效的方法來標記人工智慧生成的文本，這表明現在對書面內容實施此類措施為時已晚。這與我們的報告一致，即人工智慧文字檢測器無法運作。
就在這一消息發布的前一天，Meta 的獨立監督委員會批評該公司關於欺騙性修改視頻的政策過於狹窄，並建議標記此類內容而不是將其刪除。克雷格同意這項批評，承認現有的元政策不足以管理網路上不斷增長的合成和混合內容。他認為新的標籤措施是落實監管機構建議並刺激全產業採取類似措施的一步。
Meta 承認，它將無法偵測在沒有浮水印或元資料的情況下創建的 AI 生成內容，例如使用某些開源 AI 影像合成工具創建的影像。 Meta 正在研究一種名為「穩定簽名」的影像浮水印技術，希望能夠將其內建到開源影像生成器中。但只要像素就是像素，它們就可以以超越科技產業控制的方式創建，隨著開源人工智慧工具變得越來越複雜和現實，這仍然是人工智慧內容檢測的一個挑戰。
另請閱讀：