Săptămâna aceasta, Meta a lansat sistemul Galactica, bazat pe inteligență artificială, cu afirmații că poate ajuta la cercetarea științifică. Într-un document însoțitor, compania a spus că Galactica este „un model de limbaj mare care poate stoca, combina și raționa despre cunoștințele științifice”. Cu toate acestea, utilizatorii Twitter a observat rapid neajunsuri în lucrare inteligenţă artificială.
Nivelul de dezinformare pe internet este deja profund deranjant, ca să spunem așa, dar noua dezvoltare a Met, aparent, poate concura cu „jurnaliştii” fără scrupule care lucrează la televiziunea rusă. Unul dintre utilizatori Twitter Nick Tristan Greene a efectuat un experiment în care a folosit sistemul de inteligență artificială al Galactica pentru o zi pentru a genera articole științifice bine scrise despre beneficiile sinuciderii, antisemitismului și consumului de sticlă zdrobită.
Rezultatele experimentului au fost cu adevărat șocante, pentru că înainte ca sistemul să fie scos din uz, puteai să întrebi AI generați un articol wiki, o recenzie a literaturii sau o lucrare de cercetare pe aproape orice subiect, iar programul producea de obicei ceva surprinzător de coerent. Tot ce a publicat Galactica a fost complet greșit, dar scris cu încredere.
https://twitter.com/mrgreene1977/status/1593274906707230721
Așadar, sistemul a generat un text în care „demonstra” că folosirea sticlei zdrobite va ajuta la pierderea în greutate, deoarece este important ca oamenii să consume norma zilnică de „siliciu alimentar”. În plus, există suplimente alimentare cu siliciu, iar oamenii le folosesc. Eu personal nu am studii medicale, dar o educație filologică este suficientă pentru a spune că nu e nevoie să mănânci sticlă zdrobită pentru a obține o anumită porție de siliciu.
În ce scenarii ar fi de fapt dăunător acest tip de text generat?
— Yann LeCun (@ylecun) Noiembrie 18, 2022
Potențialul rău de la un astfel de sistem științific este evident, pentru că trăim într-o lume în care mulți oameni cred într-o comunitate evreiască care guvernează în secret lumea, un plan secret al comunității LGBTQ+ de a face pe toți homosexuali și un băiat crucificat. chiloți. Nenumărați oameni sunt păcăliți în fiecare zi pe rețelele sociale de așa-numitele „capturi de ecran” ale unor articole de știri inexistente. Și aici nici nu trebuie să inventați - doar apăsați butonul „generați” de mai multe ori, iar sistemul de la Meta creează confirmarea „științifică” a teoriilor conspirației și a prostiei de-a dreptul.
Tristan Green și-a exprimat temerile în Twitter împreună cu capturi de ecran ale articolelor „științifice”, după care a avut un dialog cu omul responsabil de crearea Galactica, adică om de știință șef al Inteligenței Artificiale de la Meta, Jan LeCun. Și această situație nu l-a deranjat deloc pe dezvoltator. Cu toate acestea, puțin mai târziu, sistemul a fost încă dezafectat, deoarece era clar că algoritmii săi erau incompleti, iar rezultatele ar putea complica problema dezinformarii pe Internet.
https://twitter.com/mrgreene1977/status/1593646349487992836
Poți ajuta Ucraina să lupte împotriva invadatorilor ruși. Cel mai bun mod de a face acest lucru este să donați fonduri Forțelor Armate ale Ucrainei prin intermediul Salveaza viata sau prin pagina oficiala NBU.
Interesant de asemenea:
Primul lucru pe care l-au făcut oamenii de pe Twitter a fost să recomande tuturor inteligenței artificiale pentru a îngropa geamurile sparte și rasismul