Marți, Meta și-a anunțat planul de a începe etichetarea imaginilor generate de AI de la alte companii, cum ar fi OpenAI și Google. Mișcarea are ca scop creșterea transparenței pe platforme precum Facebook, Instagram și Threads, informând utilizatorii că conținutul pe care îl vizionează este media digitală sintetizată și nu o fotografie sau un videoclip autentic.
Soluția Meta face parte dintr-un efort mai larg al industriei tehnologice de a stabili standarde pentru etichetarea conținutului creat cu modele AI generative capabile să creeze sunet, imagini și videoclipuri false, dar realiste, pe baza solicitărilor scrise.
Președintele lui Meta pentru afaceri globale, Nick Clegg, a făcut anunțul într-o postare pe blog pe site-ul lui Meta. „Vom continua să urmăm această abordare în următorul an, când vor avea loc o serie de alegeri importante în întreaga lume”, a scris Clegg. „În acest timp, sperăm să aflăm mult mai multe despre modul în care oamenii creează și împărtășesc conținut cu inteligența artificială, despre ce transparență apreciază cel mai mult oamenii și despre cum evoluează aceste tehnologii.”
Clegg a remarcat că inițiativa de etichetare a conținutului generată de AI a Meta va extinde practica existentă de etichetare a conținutului creat cu propriile instrumente AI pentru a include imagini create folosind serviciile altor companii.
„Construim instrumente de vârf în industrie care pot identifica markeri invizibili la scară – în special informațiile „generate de AI” din standardele tehnice C2PA și IPTC – astfel încât să putem eticheta imagini de la Google, OpenAI, Microsoft, Adobe, Midjourney și Shutterstock în timp ce își implementează planurile de a adăuga metadate la imaginile create de instrumentele lor.”
Meta spune că tehnologia de etichetare a conținutului generată de AI se va baza pe filigrane invizibile și pe metadate încorporate în fișiere. Meta adaugă un mic filigran „Imagined with AI” la imaginile create cu generatorul său public de imagini AI.
În postare, Clegg și-a exprimat încrederea în capacitatea companiilor de a eticheta în mod fiabil imaginile generate de AI, deși a remarcat că instrumentele pentru etichetarea conținutului audio și video sunt încă în dezvoltare. Între timp, Meta va solicita utilizatorilor să eticheteze conținutul audio și video modificat, cu amenzi nespecificate pentru nerespectarea acestui lucru.
„Vom cere oamenilor să folosească acest instrument de dezvăluire și etichetare atunci când postează conținut organic cu videoclipuri fotorealiste sau sunet realist care a fost creat sau modificat digital și putem impune sancțiuni dacă nu o fac”, a scris el.
Cu toate acestea, Clegg a remarcat că în prezent nu există o modalitate eficientă de a eticheta textul generat de AI, sugerând că este prea târziu pentru a implementa astfel de măsuri pentru conținutul scris. Acest lucru coincide cu rapoartele noastre conform cărora detectoarele de text AI nu funcționează.
Anunțul a venit la o zi după ce consiliul de supraveghere independent al Meta a criticat politica companiei privind videoclipurile modificate înșelător ca fiind prea îngustă și a recomandat semnalarea unui astfel de conținut în loc să-l elimine. Clegg a fost de acord cu criticile, admițând că politicile Meta existente sunt inadecvate pentru a gestiona volumul tot mai mare de conținut sintetic și hibrid de pe Internet. El vede noua inițiativă de etichetare ca un pas către punerea în aplicare a recomandărilor organului de pază și stimularea impulsului la nivel de industrie pentru măsuri similare.
Meta recunoaște că nu va putea detecta conținutul generat de AI creat fără filigrane sau metadate, cum ar fi imaginile create cu unele instrumente de sinteză de imagini AI open source. Meta cercetează o tehnologie de filigranare a imaginilor numită Stable Signature, care speră să poată fi integrată în generatoarele de imagini open source. Dar atâta timp cât pixelii sunt pixeli, aceștia pot fi creați în moduri care nu sunt controlate de industria tehnologică, iar aceasta rămâne o provocare pentru detectarea conținutului AI, deoarece instrumentele AI open source devin mai sofisticate și mai realiste.
Citeste si: