Otrdien Meta paziņoja par savu plānu sākt marķēt AI ģenerētus attēlus no citiem uzņēmumiem, piemēram, OpenAI un Google. Šīs darbības mērķis ir palielināt pārredzamību tādās platformās kā Facebook, Instagram un pavedieni, informējot lietotājus, ka viņu skatītais saturs ir sintezēts digitālais medijs, nevis autentisks fotoattēls vai video.
Meta risinājums ir daļa no plašākiem tehnoloģiju nozares centieniem noteikt standartus satura marķēšanai, kas izveidots ar ģeneratīviem AI modeļiem, kas spēj radīt viltotus, bet reālistiskus audio, attēlus un video, pamatojoties uz rakstiskām uzvednēm.
Meta globālo lietu prezidents Niks Klegs par to paziņoja emuāra ierakstā Meta vietnē. "Mēs turpināsim ievērot šo pieeju arī nākamajā gadā, kad visā pasaulē notiks vairākas svarīgas vēlēšanas," rakstīja Klegs. "Šajā laikā mēs ceram uzzināt daudz vairāk par to, kā cilvēki veido un kopīgo saturu ar mākslīgo intelektu, kādu pārredzamību cilvēki vērtē visvairāk un kā šīs tehnoloģijas attīstās."
Clegg atzīmēja, ka Meta AI radītā satura marķēšanas iniciatīva paplašinās esošo praksi marķēt saturu, kas izveidots ar saviem AI rīkiem, iekļaujot attēlus, kas izveidoti, izmantojot citu uzņēmumu pakalpojumus.
“Mēs veidojam nozarē vadošos rīkus, kas var plašā mērogā identificēt neredzamus marķierus, jo īpaši “AI radīto” informāciju C2PA un IPTC tehniskajos standartos, lai mēs varētu atzīmēt attēlus no Google, OpenAI, Microsoft, Adobe, Midjourney un Shutterstock, īstenojot savus plānus pievienot metadatus attēliem, kas izveidoti ar saviem rīkiem.
Meta saka, ka AI radītā satura marķēšanas tehnoloģija būs balstīta uz neredzamām ūdenszīmēm un failos iegultiem metadatiem. Meta pievieno nelielu ūdenszīmi “Imagined with AI” attēliem, kas izveidoti ar savu publisko AI attēlu ģeneratoru.
Ziņojumā Clegg pauda pārliecību par uzņēmumu spēju droši marķēt AI radītos attēlus, lai gan viņš atzīmēja, ka audio un video satura marķēšanas rīki joprojām tiek izstrādāti. Tikmēr Meta pieprasīs lietotājiem atzīmēt modificēto audio un video saturu, un par to nepildīšanu piemēros nenoteiktus naudas sodus.
"Mēs pieprasīsim, lai cilvēki izmantotu šo izpaušanas un marķēšanas rīku, kad viņi publicē organisku saturu ar fotoreālistisku video vai reālistisku skaņu, kas ir izveidots vai pārveidots digitāli, un mēs varam piemērot sodus, ja viņi to nedara," viņš rakstīja.
Tomēr Clegg atzīmēja, ka pašlaik nav efektīva AI radītā teksta marķēšanas veida, kas liecina, ka ir par vēlu īstenot šādus pasākumus rakstītam saturam. Tas atbilst mūsu ziņojumiem, ka AI teksta detektori nedarbojas.
Paziņojums nāca dienu pēc tam, kad Meta neatkarīgā uzraudzības padome kritizēja uzņēmuma politiku attiecībā uz maldinoši mainītiem videoklipiem kā pārāk šauru un ieteica atzīmēt šādu saturu, nevis to noņemt. Klegs piekrita kritikai, atzīstot, ka esošās Meta politikas nav piemērotas, lai pārvaldītu pieaugošo sintētiskā un hibrīda satura apjomu internetā. Viņš uzskata, ka jaunā marķēšanas iniciatīva ir solis ceļā uz sargsuņa ieteikumu ieviešanu un veicinot līdzīgu pasākumu veikšanu visā nozarē.
Meta atzīst, ka tā nevarēs atklāt mākslīgā intelekta radītu saturu, kas izveidots bez ūdenszīmēm vai metadatiem, piemēram, attēlus, kas izveidoti ar dažiem atvērtā pirmkoda AI attēlu sintēzes rīkiem. Meta pēta attēlu ūdenszīmju tehnoloģiju ar nosaukumu Stable Signature, ko tā cer iebūvēt atvērtā pirmkoda attēlu ģeneratoros. Taču, kamēr pikseļi ir pikseļi, tos var izveidot tādos veidos, ko tehnoloģiju nozare nekontrolē, un tas joprojām ir izaicinājums AI satura noteikšanai, jo atvērtā pirmkoda AI rīki kļūst arvien sarežģītāki un reālistiskāki.
Lasi arī: