Antradienį „Meta“ paskelbė apie savo planą pradėti žymėti dirbtinio intelekto sukurtus vaizdus iš kitų kompanijų, tokių kaip „OpenAI“ ir „Google“. Šiuo žingsniu siekiama padidinti skaidrumą tokiose platformose kaip Facebook, Instagram ir gijos, informuodami vartotojus, kad jų žiūrimas turinys yra sintezuota skaitmeninė laikmena, o ne autentiška nuotrauka ar vaizdo įrašas.
„Meta“ sprendimas yra platesnių technologijų pramonės pastangų dalis, kuria siekiama nustatyti turinio, sukurto naudojant generatyvius AI modelius, galinčius sukurti netikrą, bet tikrovišką garsą, vaizdus ir vaizdo įrašus pagal rašytinius raginimus, ženklinimo standartus.
„Meta“ pasaulinių reikalų prezidentas Nickas Cleggas apie tai paskelbė tinklaraščio įraše „Meta“ svetainėje. „Mes ir toliau laikysimės šio požiūrio kitais metais, kai visame pasaulyje bus surengti keli svarbūs rinkimai“, – rašė Cleggas. „Per šį laiką tikimės sužinoti daug daugiau apie tai, kaip žmonės kuria ir dalijasi turiniu su dirbtiniu intelektu, kokį skaidrumą žmonės vertina labiausiai ir kaip šios technologijos vystosi.
Cleggas pažymėjo, kad „Meta“ dirbtinio intelekto sukurto turinio žymėjimo iniciatyva išplės esamą turinio, sukurto naudojant savo AI įrankius, žymėjimo praktiką, įtraukiant vaizdus, sukurtus naudojant kitų įmonių paslaugas.
„Kuriame pramonėje pirmaujančius įrankius, galinčius dideliu mastu identifikuoti nematomus žymenis – konkrečiai „AI sugeneruotą“ informaciją C2PA ir IPTC techniniuose standartuose, kad galėtume pažymėti vaizdus iš Google, OpenAI, Microsoft, „Adobe“, „Midjourney“ ir „Shutterstock“, kai įgyvendina savo planus įtraukti metaduomenis į savo įrankiais sukurtus vaizdus.
Meta teigia, kad dirbtinio intelekto sukurta turinio ženklinimo technologija bus pagrįsta nematomais vandenženkliais ir metaduomenimis, įterptais į failus. „Meta“ prideda nedidelį vandens ženklą „Imagined with AI“ prie vaizdų, sukurtų naudojant viešą AI vaizdų generatorių.
Įraše Cleggas išreiškė pasitikėjimą įmonių gebėjimu patikimai pažymėti AI sukurtus vaizdus, nors pažymėjo, kad garso ir vaizdo turinio žymėjimo įrankiai vis dar kuriami. Tuo tarpu „Meta“ pareikalaus naudotojų pažymėti pakeistą garso ir vaizdo turinį, o už to nepadarymą bus skirtos nenurodytos baudos.
„Reikaluosime, kad žmonės naudotų šį atskleidimo ir ženklinimo įrankį, kai paskelbs natūralų turinį su fotorealistiniu vaizdo įrašu ar tikrovišku garsu, kuris buvo sukurtas arba pakeistas skaitmeniniu būdu, ir galime skirti nuobaudas, jei jie to nepadarys“, – rašė jis.
Tačiau Cleggas pažymėjo, kad šiuo metu nėra veiksmingo būdo pažymėti AI sukurtą tekstą, o tai rodo, kad jau per vėlu įgyvendinti tokias priemones rašytiniam turiniui. Tai sutampa su mūsų pranešimais, kad AI teksto detektoriai neveikia.
Šis pranešimas buvo paskelbtas kitą dieną po to, kai nepriklausoma „Meta“ priežiūros taryba sukritikavo bendrovės politiką dėl apgaulingai pakeistų vaizdo įrašų kaip per siaurą ir rekomendavo pažymėti tokį turinį, o ne jį pašalinti. Cleggas sutiko su kritika, pripažindamas, kad esama Meta politika yra netinkama valdyti didėjantį sintetinio ir hibridinio turinio kiekį internete. Jis mano, kad nauja ženklinimo iniciatyva yra žingsnis įgyvendinant priežiūros tarnybos rekomendacijas ir paskatinimas visoje pramonėje imtis panašių priemonių.
„Meta“ pripažįsta, kad ji negalės aptikti AI sukurto turinio, sukurto be vandens ženklų ar metaduomenų, pavyzdžiui, vaizdų, sukurtų naudojant kai kuriuos atvirojo kodo AI vaizdų sintezės įrankius. „Meta“ tiria vaizdo vandenženklio technologiją, vadinamą „Stable Signature“, kurią, tikisi, bus galima integruoti į atvirojo kodo vaizdų generatorius. Tačiau kol pikseliai yra pikseliai, juos galima sukurti taip, kad technologijų pramonė nekontroliuoja, ir tai išlieka iššūkiu AI turinio aptikimui, nes atvirojo kodo AI įrankiai tampa sudėtingesni ir tikroviškesni.
Taip pat skaitykite: