Bu hafta Meta, bilimsel araştırmalara yardımcı olabileceği iddialarıyla yapay zeka üzerine kurulu Galactica sistemini yayınladı. Ekteki bir belgede şirket, Galactica'nın "bilimsel bilgiyi depolayabilen, birleştirebilen ve akıl yürütebilen büyük bir dil modeli" olduğunu söyledi. Ancak, kullanıcılar Twitter işteki eksiklikleri hızla fark etti yapay zeka.
İnternetteki yanlış bilgi düzeyi, tabiri caizse zaten derinden rahatsız edici, ancak Met'in yeni gelişimi, görünüşe göre, Rus televizyonunda çalışan vicdansız "gazetecilerle" rekabet edebilir. kullanıcılardan biri Twitter Nick Tristan Greene, Galactica'nın yapay zeka sistemini bir gün boyunca kullanarak intiharın, anti-Semitizm'in ve kırılmış cam yemenin yararları hakkında iyi yazılmış bilimsel makaleler ürettiği bir deney yaptı.
Deneyin sonuçları gerçekten şok ediciydi çünkü sistem kullanımdan kaldırılmadan önce sorabilirdiniz yapay zeka hemen hemen her konuda bir wiki makalesi, literatür taraması veya araştırma makalesi oluşturun ve program genellikle şaşırtıcı derecede tutarlı bir şey üretti. Galactica'nın ortaya koyduğu her şey tamamen yanlıştı, yine de güvenle yazılmıştı.
https://twitter.com/mrgreene1977/status/1593274906707230721
Böylece sistem, kırılmış cam kullanımının kilo vermeye yardımcı olacağını "kanıtladığı" bir metin oluşturdu, çünkü insanların günlük "diyet silikonu" normunu tüketmesi önemlidir. Ayrıca, silikon içeren diyet takviyeleri mevcuttur ve insanlar bunları kullanır. Şahsen tıp eğitimim yok ama filolojik eğitim, silikonun belirli bir kısmını elde etmek için kırılmış cam yemenize gerek olmadığını söylemek için yeterli.
Bu tür oluşturulan metin hangi senaryolarda gerçekten zararlı olabilir?
- Yann LeCun (@ylecun) 18 Kasım 2022
Böyle bir bilimsel sistemin potansiyel zararı açıktır, çünkü pek çok insanın dünyayı gizlice yöneten bir Yahudi cemaatine, LGBTQ+ topluluğunun herkesi eşcinsel yapmak için yaptığı gizli bir plana ve çarmıha gerilmiş bir çocuğa inandığı bir dünyada yaşıyoruz. külot. Sosyal medyada her gün sayısız insan var olmayan haberlerin sözde "ekran görüntüleri" ile kandırılıyor. Ve burada icat etmenize bile gerek yok - sadece "üret" düğmesine birkaç kez basın ve Meta'dan gelen sistem, komplo teorilerinin ve düpedüz aptallığın "bilimsel" onayını yaratır.
Tristan Green korkularını şu sözlerle dile getirdi: Twitter "bilimsel" makalelerin ekran görüntüleriyle birlikte, ardından Galactica'nın yaratılmasından sorumlu adamla, yani Meta'nın Baş Yapay Zeka Bilim İnsanı Jan LeCun ile diyalog kurdu. Ve bu durum geliştiriciyi hiç rahatsız etmedi. Bununla birlikte, kısa bir süre sonra, algoritmalarının eksik olduğu ve sonuçların İnternet'teki dezenformasyon sorununu karmaşıklaştırabileceği açık olduğu için sistem yine de hizmet dışı bırakıldı.
https://twitter.com/mrgreene1977/status/1593646349487992836
Ukrayna'nın Rus işgalcilerine karşı savaşmasına yardım edebilirsiniz. Bunu yapmanın en iyi yolu, Ukrayna Silahlı Kuvvetlerine bağış yapmaktır. Hayat kurtarmak veya resmi sayfa aracılığıyla NBU.
Ayrıca ilginç:
Twitter kullanıcılarının yaptığı ilk şey, herkese kırık camları ve ırkçılığı gömmek için yapay zeka önermek oldu.