Com o advento do ChatGPT, Bard e outros grandes modelos de IA, ouvimos avisos de pessoas envolvidas neles, como Elon Musk, sobre os riscos que a IA representa. Agora, um grupo de proeminentes líderes da indústria divulgou uma declaração de uma frase que realmente confirma esses temores.
O aplicativo foi postado em no site do Centro de Segurança de Inteligência Artificial (Center for AI Safety) é uma organização cuja missão é "reduzir os riscos associados à inteligência artificial em escala social". Entre os signatários estão representantes bem conhecidos da indústria de inteligência artificial, incluindo o diretor executivo da OpenAI Sam Altman e o chefe Google DeepMind Demis Hassabis. Os vencedores do Turing Award Geoffrey Hinton e Joshua Bengio, considerados por muitos como os padrinhos da IA moderna, também assinaram a declaração.
Esta é a segunda declaração do tipo nos últimos meses. Em março, Musk, Steve Wozniak e mais de 1000 outros pediram uma pausa de seis meses no desenvolvimento da IA para permitir que a indústria e o público dominassem efetivamente a tecnologia. “Nos últimos meses, os laboratórios de IA se envolveram em uma corrida descontrolada para desenvolver e implementar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável”, diz a carta.
Embora a IA (provavelmente) não seja tão autoconsciente quanto alguns temem, ela já apresenta riscos de abuso e danos por meio de falsificações profundas, desinformação automatizada e muito mais. A IA também pode mudar a forma como o conteúdo, a arte e a literatura são produzidos, afetando potencialmente muitos empregos.
O presidente dos EUA, Joe Biden, disse recentemente que "resta ver" se a IA é perigosa, acrescentando: "Na minha opinião, as empresas de tecnologia têm a obrigação de garantir que seus produtos sejam seguros antes de lançá-los no mundo... ajudar a lidar com alguns problemas muito difíceis, como doenças e mudanças climáticas, mas também deve considerar os riscos potenciais para nossa sociedade, nossa economia, nossa segurança nacional.” Em uma reunião recente na Casa Branca, Altman pediu a regulamentação da IA por causa dos riscos potenciais.
Dada a ampla gama de opiniões, o novo resumo visa demonstrar uma preocupação compartilhada sobre os riscos associados à inteligência artificial, mesmo que as partes discordem sobre quais são esses riscos.
“Especialistas em inteligência artificial, jornalistas, políticos e o público estão discutindo cada vez mais uma ampla gama de riscos importantes e prementes associados à inteligência artificial”, diz o preâmbulo da declaração. “No entanto, pode ser difícil expressar preocupação com alguns dos riscos mais sérios associados à inteligência artificial. A sucinta declaração abaixo visa superar esse obstáculo e abrir a discussão. Também é projetado para informar o crescente número de especialistas e figuras públicas que também estão levando a sério alguns dos riscos mais sérios associados à inteligência artificial."
Leia também: