{"id":16921,"date":"2020-07-23T15:43:24","date_gmt":"2020-07-23T19:43:24","guid":{"rendered":"https:\/\/antilla-martinique.com\/?p=16921"},"modified":"2020-07-23T15:43:24","modified_gmt":"2020-07-23T19:43:24","slug":"pourquoi-lintelligence-artificielle-se-trompe-tout-le-temps","status":"publish","type":"post","link":"https:\/\/antilla-martinique.com\/en\/pourquoi-lintelligence-artificielle-se-trompe-tout-le-temps\/","title":{"rendered":"Pourquoi l\u2019intelligence artificielle se trompe tout le temps"},"content":{"rendered":"

Quand une IA joue un coup aux \u00e9checs, elle ne choisit pas forc\u00e9ment la meilleure solution. Randy Fath \/ Unsplash<\/a>, CC BY-SA<\/a><\/span><\/p>\n

En mai 1997, Garry Kasparov<\/a>, ma\u00eetre incontest\u00e9 des \u00c9checs, affronte un programme d\u2019intelligence artificielle. L\u2019adversaire est de taille\u00a0: 1\u00a0m\u00e8tre 80 de haut, 1,4\u00a0tonne de composants \u00e9lectroniques, et une vingtaine d\u2019ing\u00e9nieurs informaticiens pour faire fonctionner la b\u00eate. Capable de calculer plus de 100\u00a0millions de positions par seconde, Deep\u00a0Blue<\/a> est forc\u00e9ment impressionnant. Pourtant, Garry Kasparov a toutes ses chances et il le prouve en remportant la premi\u00e8re manche. Mais dans la deuxi\u00e8me, tout bascule. La machine prend l\u2019avantage apr\u00e8s un 36e<\/sup>\u00a0coup qui emp\u00eache Kasparov de menacer son roi. Le champion d\u2019\u00e9chec est alors mis en difficult\u00e9, la machine prend progressivement l\u2019ascendant. Mais soudain, au 44e<\/sup>\u00a0coup, Deep\u00a0Blue commet une erreur. Une erreur terrible, inexplicable, qui aurait pu sauver Kasparov en lui assurant une partie nulle\u00a0! La machine d\u00e9place son roi sur la mauvaise case et, au lieu de s\u2019assurer une victoire, elle offre \u00e0 son adversaire une porte de sortie.<\/p>\n

Pourtant, Kasparov ne croit pas \u00e0 l\u2019erreur de la machine. Il pense qu\u2019il n\u2019a pas vu quelque chose, que la machine ne peut pas se tromper. Pas si grossi\u00e8rement. Il ne saisit pas cette opportunit\u00e9 qui lui est donn\u00e9e. Il se dit peut-\u00eatre qu\u2019il a loup\u00e9 quelque chose. Au 45e<\/sup>\u00a0coup, il abandonne la partie.<\/p>\n

\n
[youtube https:\/\/www.youtube.com\/watch?v=jpCa9D2KPXM?wmode=transparent&start=0]<\/div>
Quand le champion d\u2019\u00e9checs Gary Kasparov est battu\u2026 par la machine Deep\u00a0Blue (Public S\u00e9nat).<\/span><\/figcaption><\/figure>\n

La r\u00e9action de Garry Kasparov imm\u00e9diatement apr\u00e8s ce match est int\u00e9ressante. Il accuse l\u2019\u00e9quipe de Deep Blue d\u2019avoir trich\u00e9, d\u2019avoir fait appel \u00e0 un joueur humain pour le battre. Pour le champion du monde, aucune machine n\u2019aurait pu \u00e0 la fois jouer l\u2019excellent 36e<\/sup>\u00a0coup et commettre cette erreur grossi\u00e8re au 44e<\/sup>. C\u2019est donc forc\u00e9ment un joueur humain qui a dict\u00e9 ce coup \u00e0 Deep Blue. Comme beaucoup de non-sp\u00e9cialistes, Kasparov ne croit pas que la machine puisse \u00eatre \u00e0 ce point faillible. Il est \u00e0 mille lieues de la v\u00e9rit\u00e9.<\/p>\n

La th\u00e9orie de la complexit\u00e9<\/h2>\n

Les programmes d\u2019intelligence artificielle, comme tous les programmes informatiques, ob\u00e9issent \u00e0 certains principes math\u00e9matiques incontournables. Les sp\u00e9cialistes regroupent ces principes sous le nom de \u00ab\u00a0th\u00e9orie de la complexit\u00e9\u00a0\u00bb<\/a>.<\/p>\n

Pour comprendre cette th\u00e9orie, il faut se rappeler qu\u2019un programme informatique correspond simplement \u00e0 une s\u00e9quence de calculs effectu\u00e9e par une machine. Chaque programme n\u00e9cessite donc un certain nombre d\u2019op\u00e9rations pour calculer une r\u00e9ponse \u00e0 un probl\u00e8me donn\u00e9, qu\u2019il s\u2019agisse de trouver le meilleur coup pour jouer aux \u00e9checs ou de d\u00e9terminer l\u2019action \u00e0 produire sur le syst\u00e8me de conduite d\u2019un v\u00e9hicule autonome. Ainsi, un ordinateur individuel construit en 2020\u00a0est capable de faire quelques milliards de calculs \u00e0 chaque seconde<\/a>. C\u2019est \u00e0 la fois gigantesque (combien de temps faut-il au cerveau humain pour effectuer une seule addition de deux nombres ayant plusieurs dizaines de chiffres) et ridiculement petit \u00e0 l\u2019\u00e9chelle de la th\u00e9orie de la complexit\u00e9.<\/p>\n

Le nombre d\u2019op\u00e9rations qu\u2019un programme informatique doit effectuer pour calculer une r\u00e9ponse peut en effet rapidement atteindre des valeurs astronomiques. Au sens propre du terme. Prenons le cas des \u00e9checs. Pour d\u00e9terminer \u00e0 coup s\u00fbr le coup gagnant, il faudrait regarder toutes les parties possibles, chaque joueur jouant alternativement l\u2019une de ses 16\u00a0pi\u00e8ces sur le plateau de 64\u00a0cases. Au milieu du XXe<\/sup>\u00a0si\u00e8cle, le math\u00e9maticien Claude Shannon a estim\u00e9 qu\u2019il y a environ 10\u00a0puissance 120\u00a0parties d\u2019\u00e9checs possibles<\/a>. Cela s\u2019\u00e9crit avec un 1\u00a0suivi de 120\u00a0z\u00e9ros. Pour vous donner la mesure de ce nombre, il est des milliards de milliards de fois plus grand que le nombre total d\u2019atomes dans tout l\u2019univers. Prenez le temps de r\u00e9fl\u00e9chir \u00e0 ce que cela repr\u00e9sente\u2026 M\u00eame avec des machines dont la puissance de calcul continuerait de doubler tous les deux ans, comme le stipule la loi de Moore<\/a>, nous sommes encore tr\u00e8s loin de construire un ordinateur qui serait capable d\u2019\u00e9num\u00e9rer toutes ces parties avant de tomber en ruine (sans m\u00eame parler de les jouer).<\/p>\n

Mais il y a pire. La th\u00e9orie d\u00e9finit la complexit\u00e9 d\u2019un probl\u00e8me comme le nombre d\u2019op\u00e9rations que mettrait le meilleur programme imaginable pour donner une r\u00e9ponse exacte \u00e0 ce probl\u00e8me. Cette complexit\u00e9 peut \u00eatre purement th\u00e9orique\u00a0: il arrive qu\u2019on n\u2019ait pas encore trouv\u00e9 l\u2019algorithme capable de l\u2019atteindre. Mais c\u2019est une limite infranchissable. Quoi qu\u2019il arrive, aucune m\u00e9thode de r\u00e9solution bas\u00e9e sur le calcul ne pourra jamais descendre en dessous. Lorsque cette complexit\u00e9 est trop grande, comme c\u2019est le cas pour le probl\u00e8me \u00ab\u00a0trouver le coup gagnant \u00e0 coup s\u00fbr aux \u00e9checs\u00a0\u00bb, c\u2019est qu\u2019il est impossible, quelle que soit la m\u00e9thode utilis\u00e9e, de construire un programme informatique qui y r\u00e9ponde sans y passer des mill\u00e9naires. Et c\u2019est l\u00e0 que l\u2019intelligence artificielle intervient.<\/p>\n

L\u2019intelligence artificielle pour des solutions imparfaites<\/h2>\n

En effet, s\u2019il est impossible d\u2019avoir une solution exacte en un temps raisonnable, rien n\u2019interdit d\u2019\u00e9crire un programme qui ne calcule pas la solution exacte, mais une autre solution, a priori moins bonne. Les chercheurs en intelligence artificielle appellent ce type de calcul une \u00ab\u00a0heuristique\u00a0\u00bb. L\u2019objectif de ces programmes est alors de calculer une solution raisonnablement correcte au probl\u00e8me, dans un temps de calcul qui reste acceptable. C\u2019est avec cette m\u00e9thode que nous pouvons \u00e9crire des programmes capables de jouer correctement aux \u00e9checs. Ou de r\u00e9soudre la plupart des probl\u00e8mes auxquels s\u2019attaque l\u2019intelligence artificielle, qu\u2019il s\u2019agisse de jeux, de contr\u00f4le de v\u00e9hicules autonomes, de traduire un texte de l\u2019anglais au fran\u00e7ais ou de reconna\u00eetre le visage d\u2019une personne sur une image.<\/p>\n

L\u2019ordinateur calcule alors un r\u00e9sultat, dans un temps qui est acceptable pour nous. Mais nous ne sommes certains que d\u2019une chose\u00a0: rien ne garantit que ce r\u00e9sultat soit le meilleur. Ainsi, il est impossible de v\u00e9rifier que le coup propos\u00e9 par Deep Blue est forc\u00e9ment gagnant (cela n\u00e9cessiterait des millions d\u2019ann\u00e9es de calcul). Avec un peu de chance et d\u2019adresse de la part des programmeurs, on peut esp\u00e9rer que le coup propos\u00e9 sera un bon choix. Voire un tr\u00e8s bon choix. Suffisamment pour battre le champion du monde. Mais ce ne sera certainement pas le coup parfait. Ou, si \u00e7a l\u2019est, nous ne le saurons jamais\u2026<\/p>\n

Le principe des programmes d\u2019IA est donc de calculer des solutions pas trop mauvaises \u00e0 des probl\u00e8mes dont on sait, math\u00e9matiquement, qu\u2019ils ne peuvent pas \u00eatre r\u00e9solus de fa\u00e7on exacte dans un temps de calcul raisonnable. Et pour cela, il faut accepter de faire parfois des erreurs. De ne pas avoir toujours la meilleure r\u00e9ponse, ou une r\u00e9ponse compl\u00e8tement correcte. C\u2019est pourquoi tout programme d\u2019IA fait forc\u00e9ment des erreurs. C\u2019est in\u00e9vitable et c\u2019est m\u00eame ce qui les caract\u00e9rise. Pour trouver des solutions \u00e0 ces probl\u00e8mes donc la complexit\u00e9 est trop \u00e9lev\u00e9e, ils construisent des heuristiques aussi bonnes que possible. Mais quel que soit le programme d\u2019IA, syst\u00e8me \u00e0 base de r\u00e8gle, r\u00e9seau de neurones ou toute autre m\u00e9thode restant \u00e0 inventer, il ne s\u2019agit que d\u2019une heuristique. Donc d\u2019un programme qui peut se tromper.<\/p>\n

Est-il alors raisonnable de monter dans un v\u00e9hicule autonome\u00a0? La question est l\u00e9gitime, lorsqu\u2019on sait que la complexit\u00e9 du probl\u00e8me est trop \u00e9lev\u00e9e et donc qu\u2019il est impossible d\u2019\u00e9crire un programme informatique qui ne fasse jamais d\u2019erreur lorsqu\u2019il d\u00e9cide d\u2019une action sur le v\u00e9hicule. Mais on peut aussi se demander si ce programme fait plus d\u2019erreurs que les conducteurs humains. Les progr\u00e8s r\u00e9cents dans le domaine de l\u2019IA permettent de r\u00e9duire rapidement cet \u00e9cart et il arrivera probablement un jour o\u00f9 les voitures autonomes seront plus s\u00fbres que celles conduites par les humains. Mais elles ne seront jamais infaillibles.<\/p>\n

\n

Cet article reprend et d\u00e9veloppe une intervention tenue dans le cadre d\u2019une formation sur la transition num\u00e9rique. Cette conf\u00e9rence a \u00e9t\u00e9 donn\u00e9e lors du cycle national de formation 2019-2020 de l\u2019IHEST, l\u2019Institut des hautes \u00e9tudes pour la science et la technologie, par Nicolas Sabouret.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

Quand une IA joue un coup aux \u00e9checs, elle ne choisit pas forc\u00e9ment la meilleure solution. Randy Fath \/ Unsplash, CC BY-SA En mai 1997, Garry Kasparov, ma\u00eetre incontest\u00e9 des \u00c9checs, affronte un programme d\u2019intelligence artificielle. L\u2019adversaire est de taille\u00a0: 1\u00a0m\u00e8tre 80 de haut, 1,4\u00a0tonne de composants \u00e9lectroniques, et une vingtaine d\u2019ing\u00e9nieurs informaticiens pour faire<\/p>","protected":false},"author":33,"featured_media":16922,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":"","rank_math_focus_keyword":"","rank_math_title":"","rank_math_description":"","rank_math_canonical_url":"","rank_math_robots":null,"rank_math_facebook_title":"","rank_math_facebook_description":"","rank_math_twitter_title":"","rank_math_twitter_description":""},"categories":[9],"tags":[],"class_list":["post-16921","post","type-post","status-publish","format-standard","has-post-thumbnail","category-latribune"],"acf":[],"_links":{"self":[{"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/posts\/16921","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/users\/33"}],"replies":[{"embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/comments?post=16921"}],"version-history":[{"count":0,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/posts\/16921\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/media\/16922"}],"wp:attachment":[{"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/media?parent=16921"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/categories?post=16921"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/tags?post=16921"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}