Google'ın eski başkanı yapay zekayı nükleer silahlara benzetti

Eski Google CEO'su Eric Schmidt, yapay zekayı (AI) nükleer silahlarla karşılaştırdı ve dünyanın en güçlü uluslarını birbirlerini yok etmekten alıkoyan karşılıklı garantili yıkıma benzer bir caydırıcılık rejimi çağrısında bulundu.

Schmidt, 22 Temmuz'da Aspen Güvenlik Forumu'nda ulusal güvenlik ve yapay zeka üzerine bir tartışma sırasında yapay zekanın tehlikeleri hakkında konuştu. Teknolojide ahlakın değeri sorulduğunda Schmidt, Google'ın ilk günlerinde bilginin gücü konusunda kendisinin naif olduğunu açıkladı. Daha sonra teknolojinin hizmet ettikleri insanların ahlak ve ahlakına daha iyi uyması için çağrıda bulundu ve yapay zeka ile nükleer silahlar arasında garip bir karşılaştırma yaptı.

"İhtiyacımız olan müzakerelere hazır değiliz." - @ericschmidt #AspenGüvenlik res.twitter.com/As749t6ZyU

— Aspen Güvenlik Forumu (@AspenSecurity) Temmuz 22, 2022

Schmidt, Çin ve ABD'nin yapay zeka konusunda bir anlaşmaya varması gereken yakın gelecekten bahsetti. Schmidt, "50'li ve 60'lı yıllarda, nükleer testler için 'sürpriz yok' kuralının olduğu bir dünya yarattık ve sonuç olarak yasaklandılar." Dedi. "Bu, güven veya güven eksikliği dengesinin bir örneğidir, bu 'sürpriz yok' kuralıdır. ABD'nin Çin'i yozlaşmış ya da komünist ya da her neyse, ve Çin'in Amerika'yı kaybeden olarak görmesinin... insanların "Aman Tanrım, bir şeylerin peşindeler" demesine izin vermesinden çok endişeliyim. anlaşılmaz bir şey başlayacak... .

Yapay zeka ve makine öğrenimi, büyüleyici ve çoğu zaman yanlış anlaşılan bir teknolojidir. Temelde insanların düşündüğü kadar zeki değil. Başyapıt düzeyinde sanat eserleri yaratabilir, insanları Starcraft II'de yenebilir ve kullanıcılar için ilkel telefon görüşmeleri yapabilir. Ancak, büyük bir şehirde araba kullanmak gibi daha zor görevleri gerçekleştirmeye yönelik girişimler başarılı olmamıştır.

Schmidt, hem Çin'in hem de ABD'nin güvenlik sorunlarıyla ilgileneceği ve onları yapay zekayı içerecek bir tür anlaşmaya girmeye zorlayacak hayali bir yakın gelecekten bahsediyor. Diplomasinin gezegendeki en ölümcül silahlar etrafında bir dizi kontrol geliştirdiği 1950'leri ve 60'ları hatırladı. Ancak, Nükleer Test Yasağı Antlaşması, SALT II ve diğer dönüm noktası yasalarının sonuçlandırılmasından önce barışın gelmesi on yıl süren nükleer patlamalar ve en önemlisi Hiroşima ve Nagazaki'nin yok edilmesi aldı.

İkinci Dünya Savaşı'nın sonunda Amerika tarafından yok edilen iki Japon şehri, on binlerce insanın hayatını aldı ve dünyaya nükleer silahların sonsuz dehşetini kanıtladı. Sonra Rusya ve Çin hükümetleri silah almak için koşturdu. Bu silahların kullanılma olasılığı ile yaşama şeklimiz, Karşılıklı Güvenceli İmha (MAD) olarak bilinen şeydir; bir ülkenin nükleer silah başlatması durumunda, diğer herhangi bir ülkenin bunu yapmasının mümkün olduğunu garanti eden bir caydırıcılık teorisidir. En azından dünya çapında medeniyeti yok etme olasılığı nedeniyle gezegendeki en yıkıcı silahları kullanmıyoruz.

Schmidt'in renkli yorumlarına rağmen, AI için MAD istemiyoruz veya buna ihtiyacımız yok. Birincisi, AI nükleer silahlara kıyasla yıkıcı gücünü henüz kanıtlamadı. Ancak iktidardaki insanlar bu yeni teknolojiden ve genellikle yanlış sebeplerden korkuyorlar. İnsanlar, nükleer silahların kontrolünü bir insandan daha iyi bir hakem olacağına inanarak yapay bir zekaya devretmeyi bile önerdiler.

Yapay zeka ile ilgili sorun, bir nükleer silahın potansiyel olarak yıkıcı gücüne sahip olması değildir. Mesele şu ki, yapay zeka ancak onu geliştiren insanlar kadar iyidir ve yaratıcılarının değerlerini taşır. AI, klasik "çöp içeri, çöp dışarı" sorunundan muzdariptir: ırkçı algoritmalar ırkçı robotlar yaratır ve tüm AI, yaratıcılarının önyargılarını taşır.

Starcraft II oyuncularını yenen yapay zekayı eğiten şirket DeepMind'in CEO'su Demis Hassabis, bunu Schmidt'ten daha iyi anlıyor gibi görünüyor. Lex Friedman'ın podcast'inde Temmuz ayında yapılan bir röportajda Friedman, Hassabis'e AI kadar güçlü bir teknolojinin nasıl kontrol edilebileceğini ve Hassabis'in kendisinin bu güç tarafından bozulmaktan nasıl kaçınabileceğini sordu.

Khasabis'in cevabı kendisi hakkında. "Yapay zeka çok büyük bir fikir" dedi. "AI'yı kimin yarattığı, hangi kültürlerden geldikleri ve değerlerinin ne olduğu önemlidir. Yapay zeka sistemleri kendi kendine öğrenecek... ancak sistem, sistem yazarlarının kültürü ve değerleriyle damgalanmış olarak kalacak."

Yapay zeka yazarının bir yansımasıdır. 1,2 megatonluk bir patlama ile bir şehri yerle bir edemez. Bir kişi ona bunu öğretmedikçe.

Ukrayna'nın Rus işgalcilerine karşı savaşmasına yardım edebilirsiniz. Bunu yapmanın en iyi yolu, Ukrayna Silahlı Kuvvetlerine bağış yapmaktır. Hayat kurtarmak veya resmi sayfa aracılığıyla NBU.

Ayrıca okuyun:

• Yeni uygulama Samsung fotoğraflarınızı geliştirmek için AI kullanır
• Yapay zeka astronomik nesnelerin tanımlanmasına yardımcı olur