Démarrage DeepMind a été un pionnier de la recherche sur l'intelligence artificielle (IA) au cours de la dernière décennie et a été racheté par Google il y a neuf ans. Cependant, après ChatGPT a fait la une des journaux, Demis Hassabis, PDG de DeepMind, a déclaré à Time que la société envisageait de publier son propre chatbot, appelé Sparrow, en tant que "bêta privée" dans le courant de 2023.
Sparrow a été présenté au monde l'année dernière en tant que preuve de concept dans un document de recherche qui le décrivait comme "un agent de dialogue utile qui réduit le risque de réponses dangereuses et inappropriées".
Malgré certaines inquiétudes concernant les dangers potentiels des chatbots, qui, selon DeepMind, contiennent "des informations inexactes ou fabriquées", il semble que Sparrow pourrait être prêt pour un lancement bêta rapide. Compte tenu de la relation étroite de DeepMind avec Google, cela pourrait effectivement être la réponse du géant de la recherche à ChatGPT.
Selon Demis Hassabis, le léger retard dans le lancement de Sparrow est dû au fait que DeepMind veut s'assurer qu'il possède des fonctionnalités importantes qui manquent à ChatGPT, y compris des liens vers des sources spécifiques. Comme Hassabis l'a dit dans une interview avec Time, "il est juste d'être prudent sur ce front".
Les recherches de DeepMind suggèrent également que Sparrow sera initialement plus limité et conservateur que ChatGPT. Ce dernier est devenu viral pour sa capacité impressionnante à aider tout le monde, des codeurs aux poètes de canapé, mais il a également soulevé des sourcils pour sa capacité à formuler des commentaires discriminatoires et ses compétences en rédaction de logiciels malveillants.
DeepMind a parlé des règles limitant le comportement sur lesquelles Sparrow est construit, ainsi que de sa volonté de refuser de répondre aux questions dans "des contextes où il est approprié de tendre la main aux gens". Lors des premiers tests, Sparrow a apparemment donné des réponses crédibles et, surtout, les a étayées par des preuves "78% du temps lorsqu'on lui a posé de vraies questions". Mais ses véritables capacités deviendront plus claires lorsque cette version bêta publique sera lancée.
Quiconque a utilisé ChatGPT sait qu'il peut très bien simuler l'intelligence sur un certain nombre de problèmes. Mais bien que ce soit certainement amusant, les chatbots IA ont également besoin d'intelligence morale et de la capacité de citer des sources - et c'est là que DeepMind dit que leur "agent conversationnel" Sparrow excelle.
Passer au niveau supérieur nécessitera de nombreuses données externes, c'est pourquoi la version bêta publique de Sparrow est inévitable. DeepMind affirme que le développement de meilleures règles pour son assistant IA "nécessitera à la fois la contribution d'experts sur un large éventail de questions (y compris les politiciens, les sociologues et les éthiciens) et la contribution collaborative d'un large éventail d'utilisateurs et de groupes d'intérêt".
Sam Altman, PDG d'OpenAI (qui a créé ChatGPT), a également évoqué la difficulté d'ouvrir des chatbots IA sans causer de dommages collatéraux. DANS Twitter il a reconnu qu '"il y aura des problèmes importants avec la technologie OpenAI au fil du temps, nous ferons de notre mieux, mais nous ne pourrons pas prédire avec succès tous les problèmes".
En d'autres termes, les développeurs de ChatGPT et de DeepMind Sparrow sont comme des parents avec des tout-petits curieux, ce qui est amusant et dangereux dans une égale mesure, surtout lorsque leur professeur de maternelle est effectivement tout Internet.
Intéressant aussi :