Avec l'avènement de ChatGPT, Bard et d'autres grands modèles d'IA, nous avons entendu des avertissements de personnes impliquées, comme Elon Musk, sur les risques que pose l'IA. Maintenant, un groupe d'éminents leaders de l'industrie a publié une déclaration d'une phrase qui confirme en fait ces craintes.
La candidature a été publiée sur sur le site du Centre de Sécurité de l'Intelligence Artificielle (Center for AI Safety) est une organisation dont la mission est de "réduire les risques associés à l'intelligence artificielle à l'échelle sociétale". Parmi les signataires figurent des représentants bien connus de l'industrie de l'intelligence artificielle, dont le directeur exécutif d'OpenAI Sam Altman et le chef Google DeepMind Demis Hassabis. Les lauréats du prix Turing Geoffrey Hinton et Joshua Bengio, considérés par beaucoup comme les parrains de l'IA moderne, ont également signé la déclaration.
C'est la deuxième déclaration de ce genre au cours des derniers mois. En mars, Musk, Steve Wozniak et plus de 1000 XNUMX autres ont appelé à une pause de six mois dans le développement de l'IA pour permettre à l'industrie et au public de maîtriser efficacement la technologie. "Ces derniers mois, les laboratoires d'IA ont été entraînés dans une course incontrôlée pour développer et mettre en œuvre des esprits numériques de plus en plus puissants que personne - pas même leurs créateurs - ne peut comprendre, prédire ou contrôler de manière fiable", indique la lettre.
Bien que l'IA ne soit (probablement) pas aussi consciente d'elle-même que certains le craignent, elle présente déjà des risques d'abus et de préjudices par le biais de contrefaçons profondes, de désinformation automatisée, etc. L'IA peut également changer la façon dont le contenu, l'art et la littérature sont produits, affectant potentiellement de nombreux emplois.
Le président américain Joe Biden a récemment déclaré qu'il "reste à voir" si l'IA est dangereuse, ajoutant : "À mon avis, les entreprises technologiques ont l'obligation de s'assurer que leurs produits sont sûrs avant de les diffuser dans le monde... L'IA peut aider à résoudre certains problèmes très difficiles, tels que les maladies et le changement climatique, mais il doit également tenir compte des risques potentiels pour notre société, notre économie, notre sécurité nationale. Lors d'une récente réunion à la Maison Blanche, Altman a appelé à une réglementation de l'IA en raison des risques potentiels.
Compte tenu du large éventail d'opinions, le nouveau mémoire vise à démontrer une préoccupation partagée quant aux risques associés à l'intelligence artificielle, même si les parties ne sont pas d'accord sur la nature de ces risques.
"Les experts en intelligence artificielle, les journalistes, les politiciens et le public discutent de plus en plus d'un large éventail de risques importants et urgents associés à l'intelligence artificielle", indique le préambule de la déclaration. "Cependant, il peut être difficile d'exprimer des inquiétudes quant à certains des risques les plus graves associés à l'intelligence artificielle. L'énoncé succinct ci-dessous vise à surmonter cet obstacle et à ouvrir la discussion. Il est également conçu pour informer le nombre croissant d'experts et de personnalités publiques qui prennent également au sérieux certains des risques les plus graves associés à l'intelligence artificielle."
Lire aussi :