La startup d'intelligence artificielle d'Elon Musk, xAI, a annoncé son dernier modèle d'IA générative, le Grok-1.5. Cette version sera disponible prochainement (« dans les prochains jours », selon le blog) dans le Twitter. Il s'agirait d'une nette amélioration par rapport à son prédécesseur, du moins à en juger par les résultats des tests et les spécifications publiés.
Parmi les avantages du modèle Grok-1.5, on peut citer les « améliorations en termes d'argumentation », comme on dit dans l'entreprise, notamment lorsqu'il s'agit de codage et de tâches liées aux mathématiques. Le modèle a plus que doublé le score de Grok-1 au test de mathématiques populaire MATH et a obtenu 10 % de plus au test HumanEval, qui teste la capacité à générer des langages de programmation et à résoudre des problèmes.
Il est difficile de prédire comment ces résultats se traduiront par une utilisation réelle. Après tout, en réalité, les benchmarks conventionnels de l'IA qui mesurent des éléments tels que les réponses aux questions de chimie NMT ne reflètent pas très bien la manière dont l'humain moyen interagit avec les modèles d'aujourd'hui. IA.
– xAI (@xai) 29 mars 2024
Une amélioration qui devrait conduire à des gains notables est la quantité de contexte que Grok-1.5 peut comprendre par rapport à son prédécesseur. Il est rapporté que le nouveau modèle sera capable de traiter des contextes allant jusqu'à 128 1.5 jetons. Les modèles dotés de petites fenêtres contextuelles ont tendance à oublier le contenu des conversations, même récentes, tandis que les modèles dotés de contextes plus larges évitent ce piège et comprennent mieux l'ensemble de données qu'ils reçoivent. "[Grok-XNUMX peut] utiliser des informations provenant de documents beaucoup plus longs", explique xAI. "De plus, le modèle peut gérer des invites plus longues et plus complexes tout en conservant la possibilité de suivre les instructions à mesure que sa fenêtre contextuelle s'agrandit."
Historiquement, les modèles Grok de xAI diffèrent des autres modèles d'IA générative en répondant à des questions sur des sujets qui sont généralement interdits aux autres modèles, tels que les complots et les idées politiques controversées. Les mannequins répondent également aux questions avec une « saveur rebelle », comme il les a décrits. Elon Musk, et sur des déclarations franchement grossières, si on leur pose des questions à ce sujet.
Grok-1.5 sera bientôt disponible pour les premiers testeurs sur Twitter avec "plusieurs nouvelles fonctionnalités". Auparavant, Elon Musk avait fait allusion à la possibilité de résumer les sujets et les réponses, ainsi que de suggérer du contenu pour les publications.
Permettez-moi de vous rappeler que nous avons récemment écrit que xAI a sorti le Grok-1 avec du code open source, mais sans le code nécessaire à son perfectionnement ou à sa formation continue. Elon Musk a également ajouté que davantage d'utilisateurs Twitter -- plus précisément, ceux qui paient 8 $ par mois pour un abonnement premium -- auront accès au chatbot Grok, qui n'était auparavant disponible que pour les clients Premium+ (qui paient 16 $ par mois).
Lisez aussi: