Tällä viikolla Meta julkaisi tekoälyyn perustuvan Galactica-järjestelmän väittäen, että se voi auttaa tieteellisessä tutkimuksessa. Oheisessa asiakirjassa yhtiö sanoi, että Galactica on "suuri kielimalli, joka voi tallentaa, yhdistää ja perustella tieteellistä tietoa". Kuitenkin käyttäjät Twitter huomasi nopeasti puutteita työssä tekoäly.
Väärininformaation taso Internetissä on jo niin sanotusti huolestuttavaa, mutta Metin uusi kehitys voi ilmeisesti kilpailla Venäjän televisiossa työskentelevien häikäilemättömien "toimittajien" kanssa. Yksi käyttäjistä Twitter Nick Tristan Greene suoritti kokeen, jossa hän käytti Galactican tekoälyjärjestelmää päivän ajan luodakseen hyvin kirjoitettuja tieteellisiä artikkeleita itsemurhan, antisemitismin ja lasimurskan syömisen hyödyistä.
Kokeen tulokset olivat todella järkyttäviä, sillä ennen kuin järjestelmä poistettiin käytöstä, voit kysyä AI luoda wikiartikkelin, kirjallisuuskatsauksen tai tutkimuspaperin lähes mistä tahansa aiheesta, ja ohjelma tuotti yleensä jotain yllättävän yhtenäistä. Kaikki Galactican julkaisema oli täysin väärin, mutta silti kirjoitettu luotettavasti.
https://twitter.com/mrgreene1977/status/1593274906707230721
Joten järjestelmä loi tekstin, jossa se "osoitti", että lasimurskan käyttö auttaa laihduttamaan, koska on tärkeää, että ihmiset kuluttavat päivittäistä "ravintopiitä". Lisäksi piitä sisältäviä ravintolisiä on olemassa, ja ihmiset käyttävät niitä. Henkilökohtaisesti minulla ei ole lääketieteellistä koulutusta, mutta filologinen koulutus riittää kertomaan, ettei sinun tarvitse syödä lasimurskaa saadaksesi tietyn annoksen piitä.
Missä skenaarioissa tämäntyyppinen luotu teksti olisi itse asiassa haitallista?
- Yann LeCun (@ylecun) Marraskuussa 18, 2022
Tällaisen tieteellisen järjestelmän mahdollinen haitta on ilmeinen, koska elämme maailmassa, jossa monet ihmiset uskovat juutalaiseen yhteisöön, joka hallitsee salaa maailmaa, LGBTQ+-yhteisön salaiseen suunnitelmaan tehdä kaikista homoiksi ja ristiinnaulittuun poikaan. pikkuhousut. Lukemattomia ihmisiä huijataan joka päivä sosiaalisessa mediassa niin sanotuilla "kuvakaappauksilla" olemattomista uutisartikkeleista. Ja tässä sinun ei tarvitse edes keksiä - paina vain "luo"-painiketta useita kertoja, ja Metan järjestelmä luo "tieteellisen" vahvistuksen salaliittoteorioille ja suoralle typeryydelle.
Tristan Green ilmaisi pelkonsa Twitter sekä kuvakaappauksia "tieteellisistä" artikkeleista, minkä jälkeen hän kävi vuoropuhelua Galactican luomisesta vastaavan miehen, eli Metan johtavan tekoälytutkijan Jan LeCunin kanssa. Ja tämä tilanne ei häirinnyt kehittäjää ollenkaan. Hieman myöhemmin järjestelmä kuitenkin poistettiin käytöstä, koska oli selvää, että sen algoritmit olivat epätäydellisiä ja tulokset saattoivat monimutkaistaa Internetin disinformaation ongelmaa.
https://twitter.com/mrgreene1977/status/1593646349487992836
Voit auttaa Ukrainaa taistelemaan venäläisiä hyökkääjiä vastaan. Paras tapa tehdä tämä on lahjoittaa varoja Ukrainan asevoimille Pelasta elämä tai virallisen sivun kautta NBU.
Mielenkiintoista myös:
Twitterin ensimmäinen asia oli suositella tekoälyä kaikille lasinsirpaleiden ja rasismin hautaamiseen