V torek je Meta objavila svoj načrt za začetek označevanja slik, ustvarjenih z umetno inteligenco, drugih podjetij, kot sta OpenAI in Google. Poteza je namenjena povečanju preglednosti na platformah, kot je npr Facebook, Instagram in Threads z obveščanjem uporabnikov, da je vsebina, ki si jo ogledujejo, sintetiziran digitalni medij in ne pristna fotografija ali video.
Rešitev Mete je del širšega prizadevanja tehnološke industrije za določitev standardov za označevanje vsebine, ustvarjene z generativnimi modeli umetne inteligence, ki lahko ustvarijo ponarejen, a realističen zvok, slike in video na podlagi pisnih pozivov.
Metin predsednik za globalne zadeve, Nick Clegg, je to objavil v blogu na Metinem spletnem mestu. "Temu pristopu bomo sledili tudi v naslednjem letu, ko bodo številne pomembne volitve po svetu," je zapisal Clegg. "Upamo, da bomo v tem času izvedeli veliko več o tem, kako ljudje ustvarjajo in delijo vsebino z umetno inteligenco, kakšno preglednost ljudje najbolj cenijo in kako se te tehnologije razvijajo."
Clegg je opozoril, da bo Metina pobuda za označevanje vsebine, ustvarjene z umetno inteligenco, razširila obstoječo prakso označevanja vsebine, ustvarjene z lastnimi orodji umetne inteligence, da bo vključevala slike, ustvarjene s storitvami drugih podjetij.
»Gradimo vodilna orodja v panogi, ki lahko prepoznajo nevidne označevalce v velikem obsegu – zlasti informacije, ki jih je ustvarila umetna inteligenca v tehničnih standardih C2PA in IPTC – tako da lahko označimo slike iz Googla, OpenAI, Microsoft, Adobe, Midjourney in Shutterstock, ko izvajajo svoje načrte za dodajanje metapodatkov slikam, ustvarjenim z njihovimi orodji.«
Meta pravi, da bo tehnologija označevanja vsebine, ki jo ustvari umetna inteligenca, temeljila na nevidnih vodnih žigih in metapodatkih, vdelanih v datoteke. Meta doda majhen vodni žig »Imagined with AI« slikam, ustvarjenim z njenim javnim generatorjem slik AI.
V objavi je Clegg izrazil zaupanje v sposobnost podjetij, da zanesljivo označujejo slike, ustvarjene z umetno inteligenco, čeprav je opozoril, da so orodja za označevanje avdio in video vsebin še v razvoju. Medtem bo Meta od uporabnikov zahtevala, da označijo spremenjeno avdio in video vsebino, z nedoločenimi globami, če tega ne storijo.
"Od ljudi bomo zahtevali, da uporabljajo to orodje za razkritje in označevanje, ko objavljajo organsko vsebino s fotorealističnim videom ali realističnim zvokom, ki je bil digitalno ustvarjen ali spremenjen, in lahko jih kaznujemo, če tega ne storijo," je zapisal.
Vendar je Clegg opozoril, da trenutno ni učinkovitega načina za označevanje besedila, ustvarjenega z umetno inteligenco, kar kaže, da je prepozno za izvajanje takšnih ukrepov za pisno vsebino. To sovpada z našimi poročili, da detektorji besedila AI ne delujejo.
Objava je prišla dan po tem, ko je neodvisni nadzorni odbor Mete kritiziral politiko podjetja o goljufivo spremenjenih videoposnetkih kot preozko in priporočil, da se taka vsebina označi namesto odstranitve. Clegg se je strinjal s kritiko in priznal, da so obstoječe politike Meta neustrezne za upravljanje naraščajoče količine sintetičnih in hibridnih vsebin na internetu. Novo pobudo za označevanje vidi kot korak k izvajanju priporočil opazovalca in spodbujanju zagona za podobne ukrepe v celotni industriji.
Meta priznava, da ne bo mogla zaznati vsebine, ustvarjene z AI, ustvarjene brez vodnih žigov ali metapodatkov, kot so slike, ustvarjene z nekaterimi odprtokodnimi orodji za sintezo slik AI. Meta raziskuje tehnologijo slikovnih vodnih žigov, imenovano Stable Signature, za katero upa, da jo bo mogoče vgraditi v odprtokodne generatorje slik. Toda dokler so piksli piksli, jih je mogoče ustvariti na načine, ki jih tehnološka industrija ne nadzoruje, in to ostaja izziv za odkrivanje vsebine z umetno inteligenco, saj postajajo odprtokodna orodja umetne inteligence bolj izpopolnjena in realistična.
Preberite tudi: