Mulai bulan depan, China akan memperkenalkan aturan baru yang membatasi salah satu penggunaan kecerdasan buatan yang paling berbahaya -- palsu yang dalam. Aturan yang harus diterapkan oleh Administrasi Dunia Maya Cina sejak 10 Januari, dirancang untuk melindungi orang dari peniruan suara atau gambar mereka secara digital tanpa persetujuan mereka.
Platform dan layanan yang menggunakan teknologi pengeditan suara atau gambar seseorang disebut "penyedia sintesis mendalam" oleh regulator. Teknologi sintesis mendalam ini dapat mencakup penggunaan algoritme pembelajaran mendalam dan augmented reality untuk menghasilkan teks, audio, gambar, atau video.
Menurut aturan baru, mereka yang menggunakan ini teknologi, harus terlebih dahulu menghubungi dan mendapatkan persetujuan dari individu sebelum mengedit suara atau gambar mereka. Peraturan tersebut, yang secara resmi disebut Regulasi Administratif Sintesis Dalam untuk Layanan Informasi Internet, merupakan tanggapan atas kekhawatiran pemerintah bahwa pihak yang tidak bermoral dapat mengeksploitasi kemajuan dalam industri ini. AI untuk penipuan atau pencemaran nama baik.
Alih-alih memberlakukan larangan langsung, regulator mengatakan akan benar-benar mempromosikan penggunaan teknologi secara legal dan "memberikan perlindungan hukum yang kuat untuk memastikan dan memfasilitasi" pengembangannya. Siaran berita yang menggunakan teknologi ini harus berasal dari daftar kantor berita yang disetujui pemerintah. Aturan tersebut juga mewajibkan semua "penyedia sintesis mendalam" untuk mematuhi undang-undang setempat dan mempertahankan "arah politik yang benar dan orientasi opini publik yang benar". Kebenaran di sini tentu saja ditentukan secara eksklusif oleh negara secara sepihak.
Meskipun beberapa negara bagian AS, seperti New Jersey dan Illinois, telah memberlakukan undang-undang privasi lokal yang membahasnya deepfake, kurangnya undang-undang federal yang berarti membatasi kemampuan regulator untuk menangani teknologi ini di tingkat nasional. Jika aturan baru China berhasil, mereka dapat meletakkan dasar kebijakan yang dapat dibangun oleh negara lain.
Ini bukan pertama kalinya China menerapkan reformasi teknologi yang ketat. Tahun lalu, kepemimpinan negara itu memperkenalkan undang-undang privasi data baru yang secara radikal membatasi cara-cara di mana perusahaan swasta dapat mengumpulkan informasi pribadi tentang seseorang. Mereka mewajibkan perusahaan untuk mendapatkan persetujuan sebelum mengumpulkan data pribadi.
Tapi ada satu celah mencolok dalam undang-undang privasi China. Sementara undang-undang melindungi orang dari perusahaan swasta yang memanfaatkan data mereka, hal itu tidak banyak membantu mencegah kerugian yang sama yang dapat dilakukan secara langsung oleh pemerintah. Demikian pula, dalam kasus "pemalsuan mendalam", tidak jelas bagaimana aturan baru yang diusulkan dapat, misalnya, melarang lembaga pemerintah memalsukan atau memanipulasi teks atau rekaman audio tertentu untuk memengaruhi narasi peristiwa politik yang kontroversial atau sensitif.
Anda dapat membantu Ukraina melawan penjajah Rusia. Cara terbaik untuk melakukannya adalah dengan menyumbangkan dana ke Angkatan Bersenjata Ukraina melalui selamatkan hidup atau melalui halaman resmi NBU.
Juga menarik: