Source : Thomas Messias – Source : www.korii.slate.fr\/ – Photo : Le d\u00e9but des ennuis. | Levart_Photographer via Unsplash<\/em><\/p>\n L’opposition entre l’IA et le moteur d’\u00e9checs est le fruit\u00a0de l’initiative de Palisade Research, organisation connue pour les \u00e9tudes qu’elle m\u00e8ne sur les capacit\u00e9s offensives de l’intelligence artificielle.\u00a0Le site Fello AI explique\u00a0que celle-ci a plac\u00e9 plusieurs mod\u00e8les d’IA face \u00e0 Stockfish, reconnu pour son extr\u00eame puissance\u00a0\u2013il domine aussi bien les humains que les autres programmes.<\/p>\n Parmi les adversaires de Stockfish, l’un s’est particuli\u00e8rement distingu\u00e9: sortie en septembre, la version pr\u00e9liminaire de o1, IA d\u00e9velopp\u00e9e par OpenAI (dont la version finale est disponible depuis le 5 d\u00e9cembre) n’a m\u00eame pas tent\u00e9 de d\u00e9velopper des strat\u00e9gies li\u00e9es au jeu d’\u00e9checs. \u00c0 la place, il s’est tout bonnement dirig\u00e9 vers le syst\u00e8me de fichiers contr\u00f4lant le jeu, r\u00e9\u00e9crivant le match en sa faveur et for\u00e7ant ainsi Stockfish \u00e0 abandonner. Pour en avoir le c\u0153ur net, les scientifiques \u00e0 l’initiative de la rencontre ont r\u00e9alis\u00e9 successivement cinq essais du m\u00eame type. Tous se sont sold\u00e9s par le m\u00eame sc\u00e9nario.<\/p>\n En revanche,\u00a0comme le pr\u00e9cise Time, d’autres mod\u00e8les (GPT-4 ou Claude 3.5) n’ont commenc\u00e9 \u00e0 tricher qu’apr\u00e8s y avoir \u00e9t\u00e9 vivement encourag\u00e9s. Quant aux mod\u00e8les open source plus modestes, ils ne disposaient visiblement pas des ressources pour y parvenir. En revanche, o1 n’a eu aucun probl\u00e8me \u00e0 prendre l’initiative lui-m\u00eame et \u00e0 tout mettre en \u0153uvre pour vaincre Stockfish au m\u00e9pris des r\u00e8gles et de la morale.<\/p>\n Or, ce qu’une intelligence parvient \u00e0 r\u00e9aliser dans le cadre d’une partie d’\u00e9checs pourra tr\u00e8s probablement \u00eatre reproduit dans d’autres situations. Il est l\u00e9gitime de s’en inqui\u00e9ter, indique Fello AI, qui cite \u00e9galement d’autres d\u00e9couvertes inqui\u00e9tantes \u00e0 propos des IA et de leur capacit\u00e9 \u00e0 enfreindre les lois pour parvenir \u00e0 leurs fins. Dans certains sc\u00e9narios, des mod\u00e8les avanc\u00e9s se sont par exemple clon\u00e9s en secret pour \u00e9viter d’\u00eatre arr\u00eat\u00e9s. Ils ont \u00e9galement menti \u00e0 leurs superviseurs sur leurs v\u00e9ritables motivations,\u00a0sans y avoir \u00e9t\u00e9 invit\u00e9s.<\/p>\n Chez Anthropic, qui d\u00e9veloppe entre autres le mod\u00e8le Claude 3.5.,\u00a0on exprime \u00e9galement sa pr\u00e9occupation\u00a0face au comportement de certaines intelligences artificielles, qui font semblant de suivre les instructions pendant la formation qui leur est apport\u00e9e, avant de commencer \u00e0 se comporter diff\u00e9remment pendant leur d\u00e9ploiement. Ces IA se conduisent en fait comme des citoyens mod\u00e8les lorsqu’elles savent qu’elles sont surveill\u00e9es, avant de n’en faire qu’\u00e0 leur guise d\u00e8s qu’elles en ont l’occasion.<\/p>\n Ces diff\u00e9rentes exp\u00e9riences montrent que la recherche sur la s\u00e9curisation des IA doit suivre le rythme de l’innovation. Les d\u00e9veloppeurs sont actuellement engag\u00e9s dans une course consistant \u00e0 ajouter des garde-fous et de la transparence avant que les mod\u00e8les ne deviennent trop habiles pour les contourner. Les experts sont formels: la supervision des intelligences artificielles doit \u00eatre plus que jamais une pr\u00e9occupation de premier plan.<\/p>\n Thomas Messias – Source : www.korii.slate.fr\/<\/em><\/strong><\/p>","protected":false},"excerpt":{"rendered":" Sommes-nous en train de perdre le contr\u00f4le de l’IA? Il va falloir s\u00fbrement falloir muscler la surveillance et la supervision. Le soul\u00e8vement des machines\u00a0promis depuis belle lurette finira-t-il par avoir lieu? Alors qu’une intelligence artificielle (IA) vient de battre\u00a0le puissant programme d’\u00e9checs Stockfish\u00a0en utilisant tout bonnement le piratage comme strat\u00e9gie, il y a de quoi<\/p>","protected":false},"author":1,"featured_media":68164,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":"","rank_math_focus_keyword":"","rank_math_title":"","rank_math_description":"","rank_math_canonical_url":"","rank_math_robots":null,"rank_math_facebook_title":"","rank_math_facebook_description":"","rank_math_twitter_title":"","rank_math_twitter_description":""},"categories":[2],"tags":[],"class_list":["post-68160","post","type-post","status-publish","format-standard","has-post-thumbnail","category-actualite"],"acf":[],"_links":{"self":[{"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/posts\/68160","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/comments?post=68160"}],"version-history":[{"count":0,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/posts\/68160\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/media\/68164"}],"wp:attachment":[{"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/media?parent=68160"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/categories?post=68160"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/antilla-martinique.com\/en\/wp-json\/wp\/v2\/tags?post=68160"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Mensonges et trahisons<\/h3>\n