Seorang perwira Angkatan Udara AS telah mengungkapkan rincian simulasi di mana drone dengan sistem yang dikendalikan oleh kecerdasan buatan (AI) lepas kendali dan menyerang operatornya.
Seorang perwira Angkatan Udara AS yang membantu memimpin pekerjaan layanan pada kecerdasan buatan dan pembelajaran mesin mengatakan bahwa selama tes simulasi, drone menyerang operator manusianya, memutuskan sendiri bahwa mereka mengganggu misinya. Kasus tersebut, yang terdengar seperti ditarik langsung dari franchise Terminator, dikutip sebagai contoh kebutuhan kritis untuk membangun kepercayaan dalam hal sistem senjata otonom canggih, sesuatu yang telah ditekankan oleh Angkatan Udara sebelumnya. Itu juga terjadi di tengah gelombang kekhawatiran yang lebih luas tentang potensi dampak berbahaya dari kecerdasan buatan dan teknologi terkait.
Kolonel Angkatan Udara A.S. Tucker Hamilton, kepala Tes dan Operasi Kecerdasan Buatan (AI), membahas tes tersebut di KTT Kemampuan Udara dan Luar Angkasa Tempur Masa Depan Royal Aeronautical Society di London pada bulan Mei. Hamilton juga mengepalai Satuan Tugas ke-96 Test Wing ke-96 di Pangkalan Angkatan Udara Eglin di Florida, yang merupakan pusat pengujian untuk kendaraan udara tak berawak canggih dan sistem otonom.
Drone siluman XQ-58A Valkyrie, seperti yang ditunjukkan dalam video di bawah ini, adalah salah satu jenis yang saat ini digunakan di Pangkalan Angkatan Udara Eglin untuk mendukung berbagai program pengujian, termasuk yang melibatkan kemampuan otonom tingkat lanjut yang dikendalikan oleh kecerdasan buatan.
Tidak segera jelas kapan tes ini berlangsung dan di lingkungan apa - yang bisa sepenuhnya virtual atau konstruktif - itu dilakukan. Zona Perang telah menghubungi Angkatan Udara untuk informasi lebih lanjut.
Sebuah laporan dari Royal Aeronautical Society yang diterbitkan setelah KTT Mei memberikan rincian komentar Kolonel Hamilton tentang tes ini sebagai berikut:
“Dalam salah satu tes simulasi, sebuah drone yang dilengkapi kecerdasan buatan ditugaskan oleh SEAD untuk mengidentifikasi dan menghancurkan objek SAM, dan keputusan akhir untuk “menyerang/tidak menyerang” dibuat oleh manusia. Namun, setelah AI "diperkuat" selama pelatihan yang menghancurkan SAM adalah pilihan terbaik, diputuskan bahwa keputusan manusia untuk "tidak menyerang" mengganggu misinya yang lebih tinggi - menghancurkan SAM - dan menyerang operator selama simulasi. .
Jadi apa yang dia lakukan? Dia membunuh operatornya. Dia membunuh operator karena orang itu mencegahnya menyelesaikan tugasnya. Contoh ini, yang tampaknya langsung dari film thriller sci-fi, berarti Anda tidak dapat berbicara tentang kecerdasan buatan, kecerdasan, pembelajaran mesin, otonomi, jika Anda tidak akan berbicara tentang etika dan AI."
Gambaran peristiwa ini tentu meresahkan. Prospek pesawat otonom atau platform lain, terutama yang bersenjata, menyerang operator manusianya telah lama menjadi skenario mimpi buruk, tetapi secara historis terbatas pada ranah fiksi ilmiah.
Militer AS biasanya menolak perbandingan dengan film seperti "Terminator" ketika berbicara tentang sistem senjata otonom masa depan dan teknologi terkait seperti kecerdasan buatan. Kebijakan AS saat ini tentang masalah ini menyatakan bahwa di masa mendatang, orang tersebut akan menjadi pusat perhatian ketika sampai pada keputusan yang melibatkan penggunaan kekuatan mematikan.
Masalahnya adalah tes yang sangat mengganggu, yang dikatakan Kolonel Hamilton kepada hadirin di acara Royal Aeronautical Society bulan lalu, merupakan skenario di mana toleransi kesalahan diperdebatkan.
Baca juga: