Un joueur ordinaire, et même pas du plus haut niveau, a vaincu le système de tête intelligence artificielle dans le jeu de société Go, qui a surpris, car la victoire remportée par l'ordinateur en 2016 était considérée comme une étape importante dans le développement de l'intelligence artificielle.
Kellyn Pelrin, une joueuse amateur américaine, a profité d'une faille du système précédemment découverte par… un autre ordinateur et a remporté 14 matchs sur 15. Cette victoire a mis en évidence la faiblesse des meilleurs programmes informatiques pour le jeu de Go dont disposent la plupart des systèmes d'IA modernes, y compris le tristement célèbre chatbot. ChatGPT, créé par OpenAI.
La tactique gagnante a été offerte, assez ironiquement, par un autre programme informatique qui a exploré les systèmes d'intelligence artificielle à la recherche de points faibles. "C'était étonnamment facile pour nous d'utiliser le système", a déclaré Adam Gleave, directeur général de la société de recherche californienne FAR AI, qui a développé le programme. Le programme a dû jouer plus d'un million de parties contre l'un des systèmes de Go les plus populaires, KataGo, pour trouver le soi-disant "angle mort", a-t-il déclaré. Selon Pelrin, la stratégie découverte par le programme n'est "pas complètement triviale, mais pas super difficile non plus", donc une personne moyenne est tout à fait capable de la maîtriser.
La victoire survient sept ans après que l'IA a semblé prouver sa supériorité incontestée sur les humains dans ce qui est souvent considéré comme le jeu de stratégie le plus difficile. Le système AlphaGo développé par la société DeepMind, propriété de Google, a battu le champion du monde Lee Sedol 2016-4 en 1. En 2019, le joueur sud-coréen a cessé de participer aux compétitions précisément à cause du développement de l'IA - il a déclaré qu'une personne ne pourrait plus le battre. Eh bien, Lee Sedol a un peu sauté aux conclusions.
Dans le jeu de go, deux joueurs placent à tour de rôle des pièces noires et blanches sur un plateau marqué d'une grille 19x19, en essayant d'entourer les pièces de l'adversaire et d'occuper la plus grande surface. Le grand nombre de combinaisons signifie que l'ordinateur n'est pas vraiment capable d'évaluer tous les futurs coups potentiels. Une tactique utilisée par Pelrin consistait à enfiler lentement une grande "boucle" de pierres pour entourer l'un des groupes de l'adversaire, distrayant IA se déplace dans d'autres coins du plateau. Et le bot n'a pas remarqué la vulnérabilité même lorsque l'encerclement était presque complet. "Mais il serait assez facile pour une personne de le remarquer", a ajouté le joueur.
Intéressant aussi :
La découverte d'une faiblesse dans certaines des machines Go à la pointe de la technologie indique une faille fondamentale dans les systèmes d'apprentissage en profondeur qui sous-tendent l'état de l'art IA. Comme le dit Stuart Russell, professeur d'informatique à l'Université de Californie à Berkeley, les systèmes ne peuvent "comprendre" que des situations spécifiques qu'ils ont rencontrées dans le passé, et ne sont pas capables de tout généraliser comme une personne le peut. "Cela montre une fois de plus que nous avons été trop hâtifs en attribuant une intelligence surhumaine aux machines", a déclaré Russell.
Il est probable que les tactiques utilisées par Pelrin soient rarement utilisées, ce qui signifie que les systèmes d'IA n'ont pas été entraînés sur suffisamment de jeux similaires pour "comprendre" leurs vulnérabilités.
Intéressant aussi :