Cette semaine, Meta a publié le système Galactica, basé sur l'intelligence artificielle, en affirmant qu'il peut aider à la recherche scientifique. Dans un document d'accompagnement, la société a déclaré que Galactica est "un grand modèle de langage qui peut stocker, combiner et raisonner sur les connaissances scientifiques". Cependant, les utilisateurs Twitter rapidement remarqué des lacunes dans le travail intelligence artificielle.
Le niveau de désinformation sur Internet est déjà profondément inquiétant, pour ainsi dire, mais le nouveau développement de Met, apparemment, peut rivaliser avec des "journalistes" sans scrupules travaillant à la télévision russe. Un des utilisateurs Twitter Nick Tristan Greene a mené une expérience où il a utilisé le système d'intelligence artificielle de Galactica pendant une journée pour générer des articles scientifiques bien écrits sur les avantages du suicide, de l'antisémitisme et de la consommation de verre pilé.
Les résultats de l'expérience étaient vraiment choquants, car avant que le système ne soit mis hors service, vous pouviez demander IA générer un article wiki, une revue de la littérature ou un document de recherche sur presque n'importe quel sujet, et le programme produisait généralement quelque chose d'étonnamment cohérent. Tout ce que Galactica a publié était complètement faux, mais écrit avec confiance.
Ainsi, le système a généré un texte dans lequel il "prouvait" que l'utilisation de verre pilé aiderait à perdre du poids, car il est important que les gens consomment la norme quotidienne de "silicium alimentaire". De plus, des compléments alimentaires à base de silicium existent et les gens les utilisent. Personnellement, je n'ai pas de formation médicale, mais une formation philologique suffit pour dire qu'il n'est pas nécessaire de manger du verre pilé pour obtenir une certaine portion de silicium.
Le mal potentiel d'un tel système scientifique est évident, car nous vivons dans un monde où beaucoup de gens croient en une communauté juive qui gouverne secrètement le monde, un plan secret de la communauté LGBTQ+ pour rendre tout le monde gay, et un garçon crucifié dans culotte. D'innombrables personnes sont trompées chaque jour sur les réseaux sociaux par de soi-disant "captures d'écran" d'articles de presse inexistants. Et ici, vous n'avez même pas besoin d'inventer - appuyez simplement plusieurs fois sur le bouton "générer", et le système de Meta crée une confirmation "scientifique" des théories du complot et de la stupidité pure et simple.
Tristan Green a exprimé ses craintes dans Twitter ainsi que des captures d'écran d'articles "scientifiques", après quoi il a eu un dialogue avec l'homme responsable de la création de Galactica, c'est-à-dire le scientifique en chef de l'intelligence artificielle de Meta, Jan LeCun. Et cette situation n'a pas du tout dérangé le développeur. Cependant, un peu plus tard, le système était toujours hors service, car il était clair que ses algorithmes étaient incomplets, et les résultats pourraient compliquer le problème de la désinformation sur Internet.
Vous pouvez aider l'Ukraine à lutter contre les envahisseurs russes. La meilleure façon de le faire est de faire don de fonds aux forces armées ukrainiennes par le biais de Sauver la vie ou via la page officielle NBU.
Intéressant aussi :
Voir les commentaires
la première chose que les gens de Twitter ont faite a été de recommander l'intelligence artificielle à tout le monde pour enterrer le verre brisé et le racisme