Noong Martes, inihayag ng Meta ang plano nitong simulan ang pag-tag ng mga imaheng binuo ng AI mula sa iba pang mga kumpanya tulad ng OpenAI at Google. Ang hakbang ay naglalayong pataasin ang transparency sa mga platform tulad ng Facebook, Instagram at Mga Thread, sa pamamagitan ng pagpapaalam sa mga user na ang nilalamang kanilang tinitingnan ay synthesized digital media at hindi isang tunay na larawan o video.
Ang solusyon ng Meta ay bahagi ng isang mas malawak na pagsisikap sa industriya ng tech na magtakda ng mga pamantayan para sa pag-label ng nilalaman na nilikha gamit ang mga generative na modelo ng AI na may kakayahang lumikha ng peke ngunit makatotohanang audio, mga larawan at video batay sa mga nakasulat na senyas.
Ang presidente ng mga pandaigdigang gawain ng Meta, si Nick Clegg, ay ginawa ang anunsyo sa isang post sa blog sa website ng Meta. "Patuloy naming susundin ang pamamaraang ito sa susunod na taon, kung kailan gaganapin ang ilang mahahalagang halalan sa buong mundo," isinulat ni Clegg. "Sa panahong ito, umaasa kaming marami pa kaming matututunan tungkol sa kung paano gumagawa at nagbabahagi ng content ang mga tao gamit ang artificial intelligence, kung ano ang pinaka pinahahalagahan ng mga tao sa transparency, at kung paano umuunlad ang mga teknolohiyang ito."
Nabanggit ni Clegg na ang AI-generated content tagging initiative ng Meta ay magpapalawak sa umiiral na kasanayan ng pag-tag ng content na ginawa gamit ang sarili nitong mga tool sa AI upang isama ang mga larawang ginawa gamit ang mga serbisyo ng ibang kumpanya.
“Bumubuo kami ng mga tool na nangunguna sa industriya na maaaring tumukoy ng mga invisible marker sa sukat – partikular ang impormasyong 'binuo ng AI' sa mga teknikal na pamantayan ng C2PA at IPTC - para makapag-tag kami ng mga larawan mula sa Google, OpenAI, Microsoft, Adobe, Midjourney at Shutterstock habang ipinapatupad nila ang kanilang mga planong magdagdag ng metadata sa mga larawang ginawa ng kanilang mga tool.”
Sinabi ng Meta na ang teknolohiya ng pag-label ng nilalaman na binuo ng AI ay ibabatay sa mga hindi nakikitang watermark at metadata na naka-embed sa mga file. Nagdagdag ang Meta ng maliit na watermark na "Imagined with AI" sa mga larawang ginawa gamit ang pampublikong AI image generator nito.
Sa post, nagpahayag si Clegg ng kumpiyansa sa kakayahan ng mga kumpanya na mapagkakatiwalaang lagyan ng label ang mga imaheng binuo ng AI, bagama't nabanggit niya na ang mga tool para sa pag-label ng nilalamang audio at video ay nasa pagbuo pa rin. Pansamantala, hihilingin ng Meta sa mga user na i-tag ang binagong nilalamang audio at video, na may hindi natukoy na mga multa para sa hindi paggawa nito.
"Hihilingin namin sa mga tao na gamitin ang tool sa pagsisiwalat at pag-label na ito kapag nag-post sila ng organic na nilalaman na may photorealistic na video o makatotohanang tunog na digitally na nilikha o binago, at maaari kaming magpataw ng mga parusa kung hindi," isinulat niya.
Gayunpaman, binanggit ni Clegg na kasalukuyang walang epektibong paraan upang lagyan ng label ang text na binuo ng AI, na nagmumungkahi na huli na upang ipatupad ang mga naturang hakbang para sa nakasulat na nilalaman. Ito ay kasabay ng aming mga ulat na ang mga AI text detector ay hindi gumagana.
Ang anunsyo ay dumating isang araw pagkatapos punahin ng independent oversight board ng Meta ang patakaran ng kumpanya sa mapanlinlang na binagong mga video bilang masyadong makitid at inirerekomendang i-flag ang naturang content sa halip na alisin ito. Sumang-ayon si Clegg sa pagpuna, na inamin na ang mga umiiral na patakaran ng Meta ay hindi sapat upang pamahalaan ang lumalaking dami ng synthetic at hybrid na nilalaman sa Internet. Nakikita niya ang bagong inisyatiba sa pag-label bilang isang hakbang patungo sa pagpapatupad ng mga rekomendasyon ng tagapagbantay at pag-udyok sa buong industriya ng momentum para sa mga katulad na hakbang.
Kinikilala ng Meta na hindi nito matutukoy ang nilalamang binuo ng AI na nilikha nang walang mga watermark o metadata, tulad ng mga larawang ginawa gamit ang ilang open source na AI image synthesis tool. Ang Meta ay nagsasaliksik ng isang teknolohiya sa watermarking ng imahe na tinatawag na Stable Signature na inaasahan nitong mabuo sa mga open source na generator ng imahe. Ngunit hangga't ang mga pixel ay mga pixel, maaari silang malikha sa mga paraang hindi kontrolado ng industriya ng teknolohiya, at nananatiling hamon ito para sa pagtuklas ng nilalaman ng AI dahil nagiging mas sopistikado at makatotohanan ang mga tool ng open source na AI.
Basahin din: