Sejumlah perusahaan termasuk Microsoft і Facebook, dan bahkan peneliti dari University of Southern California, sedang mengembangkan teknologi untuk memerangi deepfake dan mencegah penyebarannya oleh media kuning dan misinformasi secara umum. Namun, sekelompok ilmuwan masih berhasil mengelabui mereka.
Sebuah tim ilmuwan komputer di University of California, San Diego memperingatkan bahwa masih mungkin untuk mengelabui sistem deteksi deepfake yang ada dengan memasukkan data input yang disebut "contoh bersaing" ke dalam setiap frame video. Para ilmuwan mempresentasikan temuan mereka di Konferensi Visi Komputer WACV 2021, yang diadakan secara daring bulan lalu.
Contoh yang bersaing adalah input yang sedikit diubah yang menyebabkan sistem kecerdasan buatan, seperti model pembelajaran mesin, membuat kesalahan. Selain itu, tim menunjukkan bahwa serangan masih berfungsi setelah mengompresi video. Dalam video di atas, para ilmuwan menunjukkan bahwa XceptionNet, sebuah detektor deepfake, melabeli video pesaing mereka sebagai "nyata".
Sebagian besar detektor ini bekerja dengan melacak wajah dalam video dan mengirimkan data wajah yang dipotong ke jaringan saraf untuk dianalisis. Jaringan saraf kemudian akan menganalisis data ini dan menemukan elemen yang biasanya direproduksi dengan buruk di deepfake, seperti kedipan.
Dengan memasukkan contoh yang bersaing, para peneliti menemukan bahwa mereka dapat membodohi detektor deepfake ini untuk percaya bahwa video itu nyata.
Mereka menyatakan di makalah bahwa “untuk menggunakan detektor deepfake ini dalam praktik, penting untuk mengevaluasinya terhadap musuh adaptif yang mengetahui perlindungan ini dan dengan sengaja mencoba untuk merusaknya. Kami menunjukkan bahwa metode deteksi deepfake modern dapat dengan mudah dilewati jika penyerang sepenuhnya atau bahkan sebagian menyadari detektor tersebut."
Seperti yang telah ditunjukkan oleh para ilmuwan ini, teknologi otomasi yang sedang dikembangkan untuk memerangi disinformasi mungkin belum memenuhi tugas tersebut.
Baca juga: