Esta semana, a Meta lançou o sistema Galactica, baseado em inteligência artificial, com alegações de que pode ajudar em pesquisas científicas. Em um documento anexo, a empresa disse que Galactica é "um grande modelo de linguagem que pode armazenar, combinar e raciocinar sobre o conhecimento científico". No entanto, os usuários Twitter percebeu rapidamente deficiências no trabalho inteligência artificial.
O nível de desinformação na Internet já é profundamente perturbador, por assim dizer, mas o novo desenvolvimento do Met, aparentemente, pode competir com "jornalistas" inescrupulosos que trabalham na televisão russa. um dos usuários Twitter Nick Tristan Greene conduziu um experimento em que usou o sistema de inteligência artificial da Galactica por um dia para gerar artigos científicos bem escritos sobre os benefícios do suicídio, anti-semitismo e ingestão de vidro moído.
Os resultados do experimento foram realmente chocantes, porque antes que o sistema fosse retirado de uso, você poderia perguntar IA gere um artigo wiki, revisão de literatura ou trabalho de pesquisa sobre quase qualquer tópico, e o programa geralmente produz algo surpreendentemente coerente. Tudo o que a Galactica divulgou estava completamente errado, mas escrito com confiança.
https://twitter.com/mrgreene1977/status/1593274906707230721
Assim, o sistema gerou um texto em que “comprovava” que o uso do vidro triturado vai ajudar a emagrecer, pois é importante que as pessoas consumam a norma diária de “silício alimentar”. Além disso, existem suplementos dietéticos com silício, e as pessoas os usam. Pessoalmente, não tenho formação médica, mas basta uma formação filológica para dizer que não é preciso comer vidro moído para obter uma determinada porção de silício.
Em quais cenários esse tipo de texto gerado seria realmente prejudicial?
-Yann LeCun (@ylecun) 18 de novembro de 2022
O dano potencial de tal sistema científico é óbvio, porque vivemos em um mundo onde muitas pessoas acreditam em uma comunidade judaica que secretamente governa o mundo, um plano secreto da comunidade LGBTQ+ para tornar todos gays e um menino crucificado em calcinhas. Inúmeras pessoas são enganadas todos os dias nas mídias sociais pelas chamadas "capturas de tela" de artigos de notícias inexistentes. E aqui você nem precisa inventar - basta pressionar o botão "gerar" várias vezes, e o sistema da Meta cria a confirmação "científica" das teorias da conspiração e da estupidez total.
Tristan Green expressou seus medos em Twitter junto com capturas de tela de artigos "científicos", após os quais ele teve um diálogo com o homem responsável pela criação da Galactica, ou seja, o Cientista Chefe de Inteligência Artificial da Meta, Jan LeCun. E essa situação não incomodou o desenvolvedor em nada. Porém, um pouco depois, o sistema ainda estava desativado, pois ficou claro que seus algoritmos estavam incompletos e os resultados poderiam complicar o problema da desinformação na Internet.
https://twitter.com/mrgreene1977/status/1593646349487992836
Você pode ajudar a Ucrânia a lutar contra os invasores russos. A melhor maneira de fazer isso é doar fundos para as Forças Armadas da Ucrânia através Salva vida ou através da página oficial NBU.
Também interessante:
a primeira coisa que o pessoal do Twitter fez foi recomendar inteligência artificial a todos para enterrar cacos de vidro e racismo