Bir Makine İsyanı Önlemeye Çalışmak: Yapay Zekanın İlk Anayasası

5-8 Ocak tarihleri ​​arasında Kaliforniya'da Yapay Zeka (AI) teknolojilerinin oluşturulması ve geliştirilmesi konusunda uzmanlaşmış profesörler, geliştiriciler ve mühendislerden oluşan bir konferans düzenlendi. Dört günlük aktif tartışmalar sırasında, halihazırda kullanılan ve gelecekte uygulanması gereken yapay zeka ilkelerinin bir listesi derlendi. Aslında, son on yıllarda makine öğrenimi alanında insanlığın başarılarının belirli bir özeti özetlenmiştir.

Genel olarak, "Yapay Zeka" doğrudan insan beyni ve zeka ile ilgili değildir. Bu terimin yazarı olan Amerikalı bilgisayar bilimcisi John McCarthy, bu kavramı şöyle yorumluyor: "Sorun şu ki, zeki olarak adlandırmak istediğimiz hesaplama prosedürlerini henüz genel olarak tanımlayamıyoruz. Sadece bazı zeka mekanizmalarını anlıyoruz. Bu nedenle, Bu bilimin sınırları içinde zeka altında, dünyadaki hedeflere ulaşma yeteneğinin yalnızca hesaplama bileşeni anlaşılır. Bu, 1956'da Dartmouth Üniversitesi'ndeki bir konferansta açıklandı.

Zaman McCarthy'nin sözlerini doğruladı. Bugün, hedeflerimize ulaşmak için bilgilendirici araçlar kullanıyoruz ve dünyayı basitleştirme veya gelecek hakkında düşünme konusundaki fikirlerimiz, yazılım koduyla giderek daha yakından ilişkili. Evet, aynı eserlerin fikrini değiştirdik, ancak her yerde bulunmalarını kesinlikle dışlamadık.

Böylece, derlenmiş 23 "geleceğin kanunu" üç gruba ayrıldı: bilimsel araştırma konuları, etik ve değerler, teknoloji perspektifleri.

Yapay Zeka Anayasası

Araştırma segmenti

1. Yapay Zeka araştırmasının amacı, yalnızca dar odaklı bir cihaz değil, tüm toplum için bir fayda yaratmaktır.

2. Yapay zekaya yapılan yatırımlar, bu bilişim, ekonomi, hukuk, etik, sosyal bilim sorularına daha doğru ve genel cevaplar verilmesine izin vererek teknolojinin yararlılığını sağlamaya yönelik araştırma alanına girmelidir:

• Yapay zekanın yüksek güvenilirliği nasıl sağlanır, hacker saldırılarına başarılı bir şekilde direnilir ve arızalar nasıl kolayca önlenir?
• En az kaynak harcayarak otomasyon yardımıyla istenilen hedefe nasıl ulaşabiliriz?
• Yapay zekanın ortaya çıkışını göz önünde bulundurarak, modern kanona göre adaleti sağlayarak hukuk sistemini yetkin bir şekilde nasıl güncelleyebilirim?
• AI hangi yasal ve etnik statüye sahip olacak?

3. Araştırmacılar ve politikacıların yapıcı ve eşit etkileşimini sağlamak.

4. Yapay zekanın daha fazla kullanımı için kültürel başarıların tam açıklığı ve şeffaflığı.

5. Keskin rekabetten kaçınmak için AI araştırmacıları arasında etkileşim ve işbirliği.

ahlaki değerler

6. Yapay Zeka sistemleri tüm operasyonel süreç boyunca güvenli ve güvenilir olmalıdır.

7. Sorunların nedenlerini ve daha sonra ortadan kaldırılmasını mümkün olduğunca çabuk bulmak.

8. Otonom sistemin mahkeme kararlarına herhangi bir müdahalesi yetkilendirilmeli ve yetkili bir komisyon üyesi (kişi) tarafından doğrulanması durumunda rapora tabi olmalıdır.

9. Bir tasarım veya yazılım hatasından kaynaklanan hasar, kasıtlı olarak tehlikeli bir durum yaratılması sorumluluğu geliştiricilerin ve mühendislerin omuzlarındadır.

10. Tüm özerk AI sistemleri, evrensel insani değerlerin bilgisi için çaba göstermelidir.

11. AI, insan onuru, hakları, özgürlükleri ve kültürel çeşitlilik idealleriyle uyumlu bir şekilde tasarlanmalı ve çalıştırılmalıdır.

12. Bir kişi tarafından yapay zeka kullanımı sürecinde üretilen bilgiler gelecekte aynı kişi tarafından kullanılabilir olmalıdır (sonuçları ve toplanan verileri yönetme imkanı).

13. AI, kişisel verilerle çalışırken insanların gerçek veya hayali özgürlüklerini makul olmayan bir şekilde sınırlamamalıdır.

14. Yapay zeka teknolojileri, mümkün olduğu kadar çok insan için faydalı olmalı ve erişilebilir olmalıdır.

15. Yapay zekanın ekonomik ve sosyal başarıları küreseldir ve insanlığın yararına hedeflenmelidir.

16. Bir kişinin her zaman bir seçeneği vardır: bağımsız olarak karar vermek veya AI'ya emanet etmek.

17. Yapay zekanın amacı, yıkım ve felaket getirmeden toplumu iyileştirmek ve zenginleştirmektir.

18. Silahlanma yarışında AI teknolojisini kullanma olasılığı sıfıra indirilmeli, hatta silahlı rekabet de durmalıdır.

Uzun vadeli sorunlar

19. Kaynakların irrasyonel harcamasını önlemek için AI yeteneklerinin sınırını kesinlikle ayık bir şekilde değerlendirmeliyiz.

20. AI'nın gelişimi yoğun olacaktır, bu nedenle geri dönüşü olmayan reaksiyonlara neden olmamak için teknolojinin kontrol altında olması gerekir.

21. Riskler, özellikle büyük ölçekli olanlar, olası kayıpların en aza indirilmesini sağlayacak şekilde planlanmalıdır.

22. AI sistemleri, AI faaliyetinin kalitesinde bozulmaya neden olabilecek kendi kendini geliştirme ve kendi kendini yeniden üretme yeteneğine sahiptir, bu nedenle temel göstergelerin düzenli kontrolü yapılmalıdır.

23. Süperzeka, herhangi bir özel kurum veya devlete itaat etmeden tüm insanlığın yararına hizmet eden ve hizmet edecek bir teknolojidir.

Ayrıca okuyun: Hyperloop: Bir vakumlu tren yarışına ne dersiniz?

Raporun ana tezlerini kısaca hatırlayalım. Uzmanlar, AI'nın yoğun bir şekilde geliştirildiği anda kendi geri kalmışlıklarından endişe duyuyorlar, bu nedenle teknoloji üzerinde mutlak kontrol sağlamak için çabalıyorlar. Yapay zekanın küresel kamusal değeri ve insan kültürüne entegrasyonu da tekrar tekrar vurgulanmaktadır. Ancak bu planın uygulanıp uygulanmayacağını yakında öğreneceğiz. Yapay Zeka köpek yavrusu gibidir, şimdi koşar, oynar ama sonunda nasıl bir köpek olacağı öncelikle sahiplerine bağlıdır.

Şu anda bu "tasarı" Dünya vatandaşları tarafından onaylanma aşamasındadır, bu yüzden güvenli, mutlu ve teknolojik bir gelecek istiyorsanız, o zaman çekinmeyin"oy” kesinlikle makul ve gerekli olan bu ilkeleri benimsemek için.

Turing Testi ve Yapay Zeka

Büyük matematikçi Alan Turing de AI teknolojisine dahil oldu, bu yüzden çok ilginç bir test yaptı. Turing testi ilk olarak 1950'de felsefi yayın olan Mind'daki "Bilgisayar makineleri ve zihin" makalesinde sunuldu. Test fikri, makine düşüncesinin yeteneklerini ve genel olarak varlığını belirlemektir.

Standart yorum şu şekildedir: "Bir kişi bir bilgisayar ve bir kişi ile etkileşime girer. Soruların cevaplarına göre kiminle konuştuğunu belirlemesi gerekir: .. Bir kişi veya bir bilgisayar programı ile. Bilgisayar programının görevi, bir kişiyi yanlış yönlendirmek, onu yanlış seçim yapmaya zorlamak." Tüm katılımcılar birbirini göremez ve testin amacı konuşma tanıma cihazının teknik yeteneklerini test etmek değil, insan düşüncesini taklit etme yeteneği olduğundan, iletişim bir test formatında gerçekleşir.

Yazışmalar da kontrollü aralıklarla yapılır, böylece "yargıç" yanıtların hızına dayalı bir sonuç çıkaramaz. Bu testin oluşturulduğu sırada bilgisayarların bir kişiden daha yavaş tepki vermesi nedeniyle bu kuralın icat edilmesi ilginçtir, şimdi de gereklidir, çünkü şimdi bir kişi geride kalıyor.

Ayrıca bu teste dayalı olarak muhatapların cinsiyetini belirlemek için benzer bir test oluşturulmuştur. Hakem rolünde, oyuncu C, aslında bir erkek ve bir kadın olan A ve B oyuncularıyla iletişim kurmalıdır.

Yapay zeka üzerine bir araştırma makalesi şu yorumu yaptı: “Şimdi 'Makine bu oyunda A oyuncusu gibi davranırsa ne olur' diye soruyoruz, oyun bu şekilde oynandığında ev sahibi yanlış kararlar verir mi, eğer test insan ve Kadın? Bu sorular orijinal sorumuzun yerini alacak: "makineler düşünebilir mi"".

Yani, kesinlikle uzak bir soru yerine, daha kolay olanlara cevap vereceğiz ve bunu tutarlı bir şekilde yapacağız, böylece Yapay Zekanın zihinsel yetenekleriyle ilgili ana soruya uzun zamandır beklenen cevaba daha da yaklaşacağız.

Kaynaklar: hayatın geleceği, Vikipedi ve dahası Vikipedi