På tisdagen tillkännagav Meta sin plan att börja tagga AI-genererade bilder från andra företag som OpenAI och Google. Flytten syftar till att öka transparensen på plattformar som t.ex Facebook, Instagram och trådar, genom att informera användarna om att innehållet de tittar på är syntetiserade digitala medier och inte ett autentiskt foto eller video.
Metas lösning är en del av en bredare teknikindustrisatsning för att sätta standarder för märkning av innehåll skapat med generativa AI-modeller som kan skapa falska men realistiska ljud, bilder och video baserat på skrivna uppmaningar.
Metas president för globala angelägenheter, Nick Clegg, meddelade detta i ett blogginlägg på Metas hemsida. "Vi kommer att fortsätta att följa detta tillvägagångssätt under nästa år, då ett antal viktiga val kommer att hållas runt om i världen", skrev Clegg. "Under den här tiden hoppas vi kunna lära oss mycket mer om hur människor skapar och delar innehåll med artificiell intelligens, vilken transparens människor värdesätter mest och hur dessa teknologier utvecklas."
Clegg noterade att Metas AI-genererade innehållstaggningsinitiativ kommer att utöka den befintliga praxisen att tagga innehåll skapat med sina egna AI-verktyg till att inkludera bilder skapade med hjälp av andra företags tjänster.
"Vi bygger branschledande verktyg som kan identifiera osynliga markörer i stor skala – särskilt den 'AI-genererade' informationen i C2PA och IPTC tekniska standarder – så att vi kan tagga bilder från Google, OpenAI, Microsoft, Adobe, Midjourney och Shutterstock när de implementerar sina planer på att lägga till metadata till bilder skapade av deras verktyg."
Meta säger att den AI-genererade innehållsmärkningstekniken kommer att baseras på osynliga vattenstämplar och metadata inbäddade i filer. Meta lägger till en liten "Imagined with AI" vattenstämpel till bilder skapade med sin offentliga AI-bildgenerator.
I inlägget uttryckte Clegg förtroende för företags förmåga att på ett tillförlitligt sätt märka AI-genererade bilder, även om han noterade att verktyg för att märka ljud- och videoinnehåll fortfarande är under utveckling. Under tiden kommer Meta att kräva att användarna taggar modifierat ljud- och videoinnehåll, med ospecificerade böter för underlåtenhet att göra det.
"Vi kommer att kräva att människor använder det här verktyget för avslöjande och märkning när de lägger upp organiskt innehåll med fotorealistisk video eller realistiskt ljud som har skapats eller ändrats digitalt, och vi kan utdöma straff om de inte gör det", skrev han.
Clegg noterade dock att det för närvarande inte finns något effektivt sätt att märka AI-genererad text, vilket tyder på att det är för sent att implementera sådana åtgärder för skriftligt innehåll. Detta sammanfaller med våra rapporter om att AI-textdetektorerna inte fungerar.
Tillkännagivandet kom en dag efter att Metas oberoende tillsynsstyrelse kritiserade företagets policy för bedrägligt förändrade videor som för smala och rekommenderade att flagga sådant innehåll istället för att ta bort det. Clegg höll med om kritiken och medgav att befintliga Meta-policyer är otillräckliga för att hantera den växande volymen syntetiskt och hybridinnehåll på Internet. Han ser det nya märkningsinitiativet som ett steg mot att implementera vakthundens rekommendationer och stimulera industriomfattande fart för liknande åtgärder.
Meta erkänner att det inte kommer att kunna upptäcka AI-genererat innehåll som skapats utan vattenstämplar eller metadata, till exempel bilder skapade med vissa verktyg för bildsyntes av AI med öppen källkod. Meta forskar om en bildvattenmärkningsteknik som heter Stable Signature som man hoppas kan byggas in i bildgeneratorer med öppen källkod. Men så länge som pixlar är pixlar kan de skapas på sätt som inte kontrolleras av teknikindustrin, och detta är fortfarande en utmaning för AI-innehållsdetektering eftersom AI-verktyg med öppen källkod blir mer sofistikerade och realistiska.
Läs också: