Vairāki uzņēmumi, tostarp Microsoft і Facebook, un pat pētnieki no Dienvidkalifornijas universitātes izstrādā tehnoloģijas, lai apkarotu dziļos viltojumus un novērstu to izplatīšanos ar dzeltenajiem medijiem un dezinformāciju kopumā. Tomēr zinātnieku grupai tomēr izdevās viņus piemānīt.
Datorzinātnieku komanda Kalifornijas Universitātē Sandjego brīdināja, ka joprojām ir iespējams apmānīt esošās dziļās viltojumu noteikšanas sistēmas, katrā video kadrā ievietojot ievades datus, ko sauc par "konkurējošiem piemēriem". Zinātnieki iepazīstināja ar saviem atklājumiem WACV 2021 Computer Vision konferencē, kas pagājušajā mēnesī notika tiešsaistē.
Konkurējošie piemēri ir nedaudz mainīti ievades dati, kuru dēļ mākslīgā intelekta sistēmas, piemēram, mašīnmācīšanās modeļi, pieļauj kļūdas. Turklāt komanda parādīja, ka uzbrukums joprojām darbojas pēc video saspiešanas. Iepriekš redzamajā videoklipā zinātnieki parāda, ka XceptionNet, dziļo viltojumu detektors, apzīmē viņu konkurējošo video kā "īstu".
Lielākā daļa šo detektoru darbojas, izsekojot sejas video un nosūtot apgrieztos sejas datus uz neironu tīklu analīzei. Pēc tam neironu tīkls analizēs šos datus un atradīs elementus, kas parasti ir slikti atveidoti dziļos viltojumos, piemēram, mirgošana.
Ievietojot konkurējošus piemērus, pētnieki atklāja, ka viņi var maldināt šos dziļo viltojumu detektorus, liekot tiem noticēt, ka videoklipi ir īsti.
Viņi rakstā norāda, ka "lai šos dziļo viltojumu detektorus izmantotu praksē, ir svarīgi tos novērtēt pret adaptīvu pretinieku, kurš apzinās šo aizsardzību un apzināti cenšas to pārkāpt. Mēs parādām, ka mūsdienu dziļās viltojumu noteikšanas metodes var viegli apiet, ja uzbrucējs pilnībā vai pat daļēji apzinās detektoru.
Kā pierādījuši šie zinātnieki, automatizācijas tehnoloģijas, kas tiek izstrādātas, lai apkarotu dezinformāciju, vēl var neatbilst uzdevumam.
Lasi arī: