Tirsdag kunngjorde Meta sin plan om å begynne å merke AI-genererte bilder fra andre selskaper som OpenAI og Google. Flyttingen har som mål å øke åpenheten på plattformer som f.eks Facebook, Instagram og tråder, ved å informere brukerne om at innholdet de ser på er syntetiserte digitale medier og ikke et autentisk bilde eller video.
Metas løsning er en del av en bredere teknologiindustriarbeid for å sette standarder for merking av innhold laget med generative AI-modeller som er i stand til å lage falsk, men realistisk lyd, bilder og video basert på skriftlige spørsmål.
Metas president for globale anliggender, Nick Clegg, ga kunngjøringen i et blogginnlegg på Metas nettsted. "Vi vil fortsette å følge denne tilnærmingen i løpet av det neste året, når en rekke viktige valg vil bli holdt rundt om i verden," skrev Clegg. "I løpet av denne tiden håper vi å lære mye mer om hvordan folk lager og deler innhold med kunstig intelligens, hvilken åpenhet folk setter mest pris på, og hvordan disse teknologiene utvikler seg."
Clegg bemerket at Metas AI-genererte innholdstagging-initiativ vil utvide den eksisterende praksisen med å merke innhold laget med sine egne AI-verktøy til å inkludere bilder laget ved hjelp av andre selskapers tjenester.
«Vi bygger bransjeledende verktøy som kan identifisere usynlige markører i stor skala – spesielt den 'AI-genererte' informasjonen i C2PA og IPTC tekniske standarder – slik at vi kan merke bilder fra Google, OpenAI, Microsoft, Adobe, Midjourney og Shutterstock når de implementerer planene sine om å legge til metadata til bilder laget av verktøyene deres.»
Meta sier at den AI-genererte innholdsmerkingsteknologien vil være basert på usynlige vannmerker og metadata innebygd i filer. Meta legger til et lite "Imagined with AI"-vannmerke til bilder laget med sin offentlige AI-bildegenerator.
I innlegget uttrykte Clegg tillit til selskapers evne til pålitelig å merke AI-genererte bilder, selv om han bemerket at verktøy for merking av lyd- og videoinnhold fortsatt er under utvikling. I mellomtiden vil Meta kreve at brukere merker modifisert lyd- og videoinnhold, med uspesifiserte bøter for å ikke gjøre det.
"Vi vil kreve at folk bruker dette avslørings- og merkeverktøyet når de legger ut organisk innhold med fotorealistisk video eller realistisk lyd som er digitalt skapt eller endret, og vi kan ilegge straff hvis de ikke gjør det," skrev han.
Imidlertid bemerket Clegg at det foreløpig ikke er noen effektiv måte å merke AI-generert tekst på, noe som tyder på at det er for sent å implementere slike tiltak for skriftlig innhold. Dette samsvarer med våre rapporter om at AI-tekstdetektorene ikke fungerer.
Kunngjøringen kom en dag etter at Metas uavhengige tilsynsstyre kritiserte selskapets policy for villedende endrede videoer som for smale og anbefalte å flagge slikt innhold i stedet for å fjerne det. Clegg var enig i kritikken, og innrømmet at eksisterende Meta-policyer er utilstrekkelige for å håndtere det økende volumet av syntetisk og hybrid innhold på Internett. Han ser på det nye merkingsinitiativet som et skritt mot å implementere vakthundens anbefalinger og stimulere industriomfattende fart for lignende tiltak.
Meta erkjenner at den ikke vil være i stand til å oppdage AI-generert innhold opprettet uten vannmerker eller metadata, for eksempel bilder laget med noen åpen kildekode AI-bildesynteseverktøy. Meta forsker på en bildevannmerkingsteknologi kalt Stable Signature som de håper kan bygges inn i åpen kildekode-bildegeneratorer. Men så lenge piksler er piksler, kan de lages på måter som er utenfor teknologiindustriens kontroll, og dette er fortsatt en utfordring for gjenkjenning av AI-innhold ettersom AI-verktøy med åpen kildekode blir stadig mer sofistikerte og realistiske.
Les også: