La victoire de l’intelligence artificielle sur le jeu de Go, l’un des jeux de stratégie les plus complexes au monde, a fait grand bruit en 2016. Aujourd’hui, l’humanité a repris l’ascendant grâce à Kellin Pelrine, un joueur qui n’est pas même classé. Il a vaincu l’intelligence artificielle KataGo sur 14 des 15 parties qu’ils ont jouées ensemble.
Mais comment ? L’ironie est que Kellin Pelrine a fait appel à… un programme informatique pour cela. Il fait en effet partie de l’équipe de FAR AI, un centre de recherche californien dédié à l’intelligence artificielle, qui a conçu un programme dédié uniquement à l’analyse des faiblesses de KataGo. C’est grâce à cela qu’une grande faille de celui-ci a été identifiée et utilisée par l’équipe, qui a également pu réaliser l’exploit face à Leela Zero, une autre IA de spécialisée dans le Go.
L’IA bernée par l’absence de complexité
Les décisions prises par Kellin Pelrine lors de ses parties n’ont pas été dictées par un ordinateur. Mais le joueur était armé d’une information cruciale : une technique de confusion. Le principe du jeu de Go est d’utiliser ses pierres (noires ou blanches, selon votre côté) pour encercler les pierres adverses, les capturer et prendre ainsi le contrôle du terrain. Il s’agit d’un des jeux de stratégie les plus anciens et les plus complexes au monde, au point que lorsque le champion du monde Lee Sedol a été vaincu par DeepMind de Google en 2016, de nombreuses personnes l’ont vu comme la victoire de la machine contre l’humanité toute entière.
Mais ces intelligences artificielles peuvent être bernées par une technique simple, découverte ici. En plaçant ses pierres lentement et stratégiquement pour créer un large cercle de capture tout en réalisant des coups de l’autre côté du plateau de jeu, il est possible de tromper la vigilance des IA. Une tactique qui serait par contre « très facile à repérer pour un humain » selon Pelrine. L’équipe n’a testé sa découverte que sur KataGo et Leela Zero, tous deux publiquement accessibles et dans leurs dernières versions, mais il est possible que la même technique puisse berner AlphaGo, dont l’accès est privé. Même en testant sa découverte en souffrant d’un handicap de neuf pierres, qui donnerait une probabilité de victoire de 100 % à quiconque jouerait dans la vraie vie, l’équipe de Far AI a pu renverser la vapeur face à l’IA.
Pour Stuart Russell, un chercheur en IA de l’université de Californie interrogé par le Financial Times, cette découverte permet de souligner l’une des plus grandes faiblesses de ces systèmes. Puisqu’elles ne peuvent que « comprendre » des situations spécifiques auxquelles elles ont été exposées grâce à leurs modèles d’apprentissage, les intelligences artificielles ne sont pas capables de généraliser comme le fait très simplement un humain. Pour le chercheur, « cela prouve une nouvelle fois que nous nous hâtons bien trop à offrir des niveaux surhumains d’intelligence aux machines. »
Ne pas être un joueur classé a donc été le plus grand avantage de Kellin Pelrine dans ses parties puisque sa manière de jouer, si banale soit-elle, ne rentre pas dans les millions de modèles analysés par KataGo et Leela Zero. Rien ne dit cependant qu’après avoir étudié ces nouvelles données, ces deux intelligences artificielles continuent de se faire berner à l’avenir. Reste une leçon à retenir si la science-fiction devient un jour réalité : la bêtise typiquement humaine pourrait être notre plus grand salut.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : Financial Times
