Pemimpin teknologi dan peneliti AI terkemuka telah menandatangani surat Terbuka, yang meminta laboratorium AI dan perusahaan untuk "segera menangguhkan" pekerjaan mereka.
Penanda tangan, termasuk Steve Wozniak dan Elon Musk, setuju bahwa risiko memerlukan setidaknya jeda enam bulan dari produksi teknologi yang melampaui ruang lingkup. GPT-4. Ini untuk mendapatkan kegembiraan dan kepuasan dari sistem AI yang ada sekarang, dan untuk memungkinkan orang beradaptasi dengannya dan melihat bahwa itu berguna.
Surat tersebut menambahkan bahwa kehati-hatian dan pemikiran ke depan diperlukan untuk memastikan keamanan sistem AI, namun hal tersebut diabaikan. Referensi ke GPT-4, model OpenAI baru yang dapat merespons pesan tertulis atau visual dengan teks, muncul saat perusahaan berlomba membangun sistem obrolan canggih menggunakan teknologi tersebut. Contoh, Microsoft baru-baru ini mengonfirmasi bahwa mesin pencari Bing yang diperbarui telah berjalan pada model GPT-4 selama lebih dari 7 minggu, dan Google baru-baru ini secara resmi memperkenalkan Penyair – memiliki sistem kecerdasan buatan generatif berdasarkan LaMDA.
Kekhawatiran tentang AI sudah ada sejak lama, tetapi perlombaan untuk mengadopsi teknologi paling canggih terbukti kecerdasan buatan yang pertama sudah mengkhawatirkan. "Dalam beberapa bulan terakhir, laboratorium AI telah terlibat dalam perlombaan yang tidak terkendali untuk mengembangkan dan menerapkan pikiran digital yang semakin kuat yang tidak dapat dipahami, diprediksi, atau dikendalikan oleh siapa pun - bahkan penulisnya - tidak dapat diandalkan," kata surat itu.
Surat tersebut diterbitkan oleh organisasi nirlaba Future of Life Institute (FLI), yang bekerja untuk meminimalkan bencana global dan risiko eksistensial serta penyalahgunaan teknologi baru, khususnya AI. Sebelumnya, Musk mendonasikan $10 juta kepada FLI untuk riset keamanan AI. Selain dia dan Wozniak, para penandatangan juga mencakup sejumlah pemimpin dunia di bidang AI, seperti Presiden Pusat AI dan Kebijakan Digital Mark Rothenberg, fisikawan MIT dan Presiden FLI Max Tegmark, serta penulis Yuval Noah Harari.
Harari juga ikut menulis op-ed di New York Times minggu lalu yang memperingatkan tentang risiko yang terkait dengan kecerdasan buatan, di mana pendiri Center for Humane Technologies dan penandatangan surat terbuka lainnya, Tristan Harris dan Aza Raskin, bekerja dengannya.
Panggilan tersebut mengikuti survei tahun lalu terhadap lebih dari 700 peneliti pembelajaran mesin di mana hampir setengahnya mengatakan ada sekitar 10% kemungkinan "konsekuensi yang sangat buruk" dari AI, termasuk kepunahan manusia. Saat ditanya tentang keamanan dalam penelitian AI, 68% responden mengatakan lebih banyak atau lebih banyak yang perlu dilakukan.
Baca juga: