Dans cette tribune acérée et documentée, Michel Herland livre une réflexion sans concession sur l’expansion irrésistible de l’intelligence artificielle dans nos vies. Loin de se satisfaire des discours technophiles dominants, il alerte sur les conséquences profondes et souvent sous-estimées de cette révolution : perte d’autonomie intellectuelle, servitude numérique, affaiblissement du système éducatif, menace pour la démocratie. Sans sombrer dans le catastrophisme gratuit, mais avec un pessimisme lucide, l’auteur interroge : sommes-nous en train de troquer notre humanité contre une illusion de confort et de puissance ? Une lecture salutaire qui invite à penser, résister… et choisir.
De l’Involontaire Asservissement à l’Imbécilité Augmentée
« Cette technologie va bouleverser le marché du travail, ainsi que notre façon d’envisager les activités humaines, ce qui a de la valeur ou non. Alors oui, c’est effrayant. »
Bill Gates
Cet article n’a pas été rédigé par une IA !
La publication du dernier numéro de la revue Esprit (n° 520, avril 2025) dont le dossier est consacré à « l’IA aux frontières de l’esprit » vient à son heure alors que l’humanité s’enfonce les yeux fermés dans une catastrophe majeure, existentielle. Si les rédacteurs d’Esprit ne font pas preuve d’un tel pessimisme, si le mot catastrophe n’entre pas dans leur vocabulaire et si l’éditorial conclut à la possibilité d’envisager l’Intelligence Artificielle comme quelque chose avec quoi il « faudra vivre sans renoncer à définir ce qui de nous doit rester essentiel et inaliénable », les articles du dossier peinent à nous délivrer d’un sentiment de terreur face à ce qui est déjà là et pas seulement devant nous.
On rappelle que dès 1950 Alan Turing, savant génial et pionnier de l’IA, tenait pour vraisemblable que les machines fussent bientôt capables d’égaler les hommes dans tous les domaines purement intellectuels. On n’en est plus très loin. On se demande même quel domaine ne serait pas aujourd’hui à la portée des machines. Grâce à l’approche connexionniste, la dernière étape en date du développement de l’IA (qui lui a permis de battre le champion du monde du jeu de go, une barre qui parut longtemps impossible à franchir par les informaticiens), les réponses apportées par les IA « génératives » comme ChatGPT ou DeepSeek aux défis posés par les humains sont si impressionnantes que certains représentants des professions dites créatives n’hésitent plus à leur déléguer tout ou partie de leurs tâches.
Certes, les grands modèles de l’IA ne sont encore au dire des experts que des « perroquets stochastiques » (1). On a pu même avancer que les IA, parce qu’elle se fondent uniquement sur des données existantes, sont de vulgaires croque-morts recyclant des informations prédigérées. Pourtant, si ces machines n’inventent rien à strictement parler, elles n’en sont pas moins capables de répondre à de nombreuses questions que nous nous posons plus vite et tout aussi bien, voire mieux que nous. Depuis l’exemple apparemment le plus trivial, comme calculer un itinéraire optimum (nous pourrions certes le faire nous-mêmes mais grâce à l’IA la réponse est instantanée et ne nous demande d’autre effort que de dicter notre question à un GPS) jusqu’à écrire un roman ou inventer les épisodes d’une série télévisée. Dans ces derniers cas il est difficile de cerner exactement en quoi le cerveau humain est différent. Les auteurs humains ne travaillent pas dans le vide, leurs cerveaux aussi sont nourris par des informations déjà accumulées. Ils n’auraient alors en plus de la machine – jusqu’ici du moins – qu’une mystérieuse capacité de « disruption » par rapport au passé.
L’IA ou l’Involontaire Asservissement
Disposant de ce petit bijou qu’est « l’ordiphone », ce téléphone si futé (smart), l’objet magique par excellence capable de tant de merveilles, comme, pour rester sur le même exemple, accéder à toutes les cartes du monde mises à jour instantanément (in real time) pour nous fournir « gratuitement » (plus exactement en échange des données que nous offrons bénévolement aux data brokers) le meilleur itinéraire possible, le plus court, le plus rapide, le moins cher, à notre convenance, qui, disposant d’un pareil outil, s’embêterait encore avec les vieilles cartes Michelin ? Avec notre ordiphone, si nous ne sommes pas tout à fait les maîtres du monde, nous avons gagné un nouveau sentiment de puissance. Certes, nous serions bien incapables de comprendre comment cet instrument fonctionne mais n’avons nous pas l’habitude de telles incertitudes, comprenons-nous vraiment, par exemple, le fonctionnement du corps humain ? Si la médecine était une science exacte, elle soignerait toutes les maladies ; notre ordiphone n’apparaît pas moins sûr dans ses réponses que notre médecin.
« Faisons l’homme à notre image… qu’il domine sur les poissons de la mer et sur le bétail et sur toute la terre et sur tout reptile qui rampe sur la terre », Genèse 1 : 26-28). On ne jurera pas que de telles paroles aient pu être prononcées par un Dieu mais elles sont en parfaite adéquation avec notre volonté de dominer la nature. Dès lors pourquoi refuserions-nous l’IA qui nous rend encore plus puissants ? Au XVIIIe siècle, pour rendre visite à une personne située à quelques dizaines de lieues, il fallait plusieurs jours à pied, un peu moins à cheval. Au XIXe siècle on comptait la distance en kilomètres et une journée suffisait avec le chemin de fer, puis l’automobile l’a réduite à quelques heures. Encore fallait-il un humain pour la conduire ; nous n’en sommes plus vraiment là aujourd’hui avec les progrès des voitures autonomes, des taxis roulent déjà sans conducteur humain à bord, avec une fiabilité équivalant à celle des autres taxis. Il serait superflu d’aller plus loin et de recenser les innombrables domaines où l’IA sera très prochainement à même de faire autant sinon mieux que l’humain. Disons simplement, suivant l’estimation fournie dans la revue Esprit, qu’elle devrait supprimer à terme 80 % des emplois tertiaires ! Une vraie civilisation des loisirs va devoir se mettre en place et qui ne voit dans cet avenir si proche un véritable cauchemar ?
Or l’humanité paraît incapable de s’opposer au « progrès ». Si elle a accepté la bombe atomique, ses ravages potentiels, on voit mal comment elle pourrait refuser l’IA qui lui offre tant de satisfactions.
« Il ne faut jamais sous-estimer la dynamique libidinale qui porte le désir d’IA : la rapidité, l’attestation de soi, le fluidité et la délégation des tâches sont des pentes périlleuses, renforcées par l’anthropomorphisme en jeu » (2).
Périlleuses en effet, et même davantage. N’en déplaise à La Boétie, la servitude volontaire n’existe pas. Personne ne décide librement d’être esclave (3). Nous adoptons les innovations sans trop nous soucier des conséquences – ou si nous nous en soucions, notre réticence n’est pas assez forte pour leur faire obstacle – parce que nous sommes mus inconsciemment dans notre grande majorité par quatre puissants moteurs : la loi du moindre effort (tout ce qui économise le travail humain est bienvenu), l’appât du gain (accumuler, accumuler, c’est la loi et les prophètes), le conformisme (si les autres le font, je veux le faire aussi) et la préférence pour le court terme (après moi le déluge).
Le système d’exploitation de nos téléphones portables (hors i-phones) est nommé « Android », ce qui est suffisamment significatif des intentions de ses concepteurs ! Constatons qu’ils ont bien réussi leur coup : le téléphone apparaît déjà comme le meilleur ami de certains d’entre nous.
Résister demande beaucoup d’efforts, surtout si l’on n’est qu’une petite minorité de rebelles. C’est la raison pour laquelle, simple exemple, les Chinois adoptent passivement le régime dictatorial en vigueur dans les villes dites « intelligentes » (au sens de l’IA) et le « crédit social » qui les accompagne (4). Qui parlerait de servitude volontaire dans ce cas ?
Mais nous ne faisons pas beaucoup mieux chez nous. Dès lors que nous fréquentons les réseaux sociaux, nos opinions, nos goûts sont analysés, notre capacité de dépense est soupesée et nous sommes conduits par l’IA à adapter nos comportements en fonction des informations qu’elle nous fournit. Et même si nous croyons résister, il en reste toujours quelque chose. Sans compter que nous ne pouvons pas échapper aux exigences procédurales des nouvelles technologies dès que nous entreprenons la moindre démarche (déclarer nos revenus, payer une facture, etc.).
L’IA ou l’Imbécilité Augmentée
Économiser le travail humain n’a rien de répréhensible et personne ne veut se retrouver au stade de la houe. Inutile donc de revenir sur toutes les innovations positives rendues possibles par l’ingéniosité des humains. Rétrospectivement, la course au progrès apparaît donc comme une bonne chose (bien sûr, si une guerre atomique était déclenchée à l’échelle mondiale le point de vue serait différent !) Quant aux effets nocifs du progrès sur notre environnement, aux pollutions de toutes sortes, il n’est pas interdit de penser que nous finirons par réagir, les mesures correctives – bien que politiquement douloureuses, d’où les atermoiements – étant à notre portée. Hélas, il n’est pas interdit non plus de penser le contraire et certaines dystopies prédisent l’apparition d’isolats paradisiaques réservés aux riches et puissants, le reste de la population végétant sur une planète devenue un cloaque malsain, voire la disparition de notre espèce (5).
Tous les désastres environnementaux préexistaient à l’IA et ont tout à voir avec la bêtise ordinaire des humains, leur incapacité de se projeter à long terme, la croyance que tout ce qui ne va pas finira par s’arranger et, bien sûr, la recherche du profit. Faut-il rappeler ici l’échec de la dernière session préparatoire (Busan, novembre 2024) d’un futur « Traité international contre la pollution plastique », en raison de l’opposition des pays producteurs de pétrole ?
On n’a pas encore démontré que le plastique et les autres pollutions nous rendaient idiots, même s’il est avéré que notre corps abrite des nanoparticules indésirables, des perturbateurs endocriniens nocifs pour notre santé. Par contre, l’influence de l’IA sur les capacités cognitives ne fait guère de doute et les éducateurs en témoignent déjà. Lorsqu’il suffit d’interroger une IA pour qu’elle vous fournisse la solution parfaite d’un problème ou l’argumentaire convaincant d’une dissertation, la loi du moindre effort dicte le résultat : à force de céder à la tentation, on ne sait plus ni calculer, ni écrire, ni réfléchir par soi-même. Déjà que notre école, ici en France, se distingue par des performances particulièrement mauvaises, déclinantes de surcroît, on imagine facilement les ravages à venir. Ce n’est pourtant pas faute d’avoir alerté sur les dangers des IA, et pas seulement pour les élèves.
Gaspard Koenig, philosophe :
« La délégation de notre capacité de raisonner et de décider posera rapidement un vrai problème cognitif, avec le risque d’atrophie de zones de notre cerveau dédiées à la prise de décision » (6).
IA ou pas IA, la France est confrontée à l’urgence de réformer son système scolaire. Pour commencer, et au risque de fâcher certains lecteurs, le dogme des classes hétérogènes devrait être abandonné. Pourquoi, par exemple, les élèves ne recopient-ils plus ou n’écrivent-ils plus sous la dictée comme avant les résumés de cours ou les textes des leçons ? Simplement parce que trop d’entre eux ayant des difficultés en écriture, il est plus expédient de leur distribuer des feuilles polycopiées, de leur demander de remplir des documents « à trous » en mettant le mot qui manque dans une case, et d’avancer ainsi dans le programme sans prendre trop de retard. C’est pourtant en écrivant, pas seulement quelques mots par-ci par-là mais des phrases complètes, qu’on apprend à écrire. Idem pour les calculettes qui donnent aux élèves une fausse impression de facilité. Tout cela ne s’arrange pas, au collège, avec l’usage des ordinateurs. Enfin, au lycée, confrontés à tant d’élèves qui ne comprennent pas ce que le mot effort signifie, les professeurs les conduiront malgré tout jusqu’au baccalauréat, voire jusqu’à un diplôme de technicien supérieur, tout en sachant que ces parchemins ne signifient plus rien mais qu’il faut en passer par là : le rectorat exige des « résultats » et les notes jugées trop basses seront manipulées en conséquence.
Dans l’état actuel de notre Éducation Nationale, l’IA intervient comme un élément supplémentaire qui risque d’achever un système déjà moribond. Elle s’introduit dans la vie des élèves comme dans celle des adultes par l’intermédiaire des téléphones portables (« ordiphones ») et des ordinateurs. Sans parler ici – ce n’est pas le sujet – des jeunes enfants piégés devant la télévision par des parents incapables de les occuper, l’addiction au téléphone portable, quoiqu’elle s’observe à tous les âges, est la plus nocive à l’adolescence. Un adolescent a besoin de courir pour développer son corps et de lire des livres pour approfondir sa connaissance de la langue tout en cultivant son imaginaire, comme il a besoin d’interactions physiques avec ses parents et avec ses pairs. Le langage abrégé des textos et les émojis ne remplaceront jamais la Chartreuse de Parme et la contemplation d’un film porno n’est pas le meilleur moyen de se préparer à une relation saine avec l’autre sexe.
Il suffit de relever le nez du guidon pour admettre que les ordiphones doivent être absolument bannis, tout comme les ordinateurs d’ailleurs, chez des esprits en train de se former, que ce soit dans le cadre de l’institution scolaire ou à la maison. Ainsi, selon le mathématicien Cédric Villani, l’auteur en 2018 d’un rapport parlementaire sur l’IA, « il faut commencer par une formation traditionnelle, à l’écart de toute technologie avancée, pour que les fondamentaux soient acquis » (8). On a d’ailleurs appris que nombre d’acteurs de la Silicon Valley, aux États-Unis, inscrivaient leurs enfants dans des établissements sans internet et leur interdisaient les smartphones. Autant dire que nos conseils généraux si fiers de distribuer gratuitement des ordinateurs aux collégiens, au nom, croient-ils, de l’égalité des chances, vont à l’opposé de ce qu’il conviendrait de faire !
Nous ne sommes qu’aux débuts des développements de l’IA, « la technologie la plus importante à avoir été créée de mon vivant » selon un Bill Gates (8) qui sait de quoi il parle. Que deviendra la famille, par exemple, quand les androïdes plus séduisants, plus intelligents, plus attentifs à nos désirs que n’importe quel humain seront mis sur le marché, comme dans le film Ich bin dein Mensch (9) ? Et sans aller jusqu’à un avenir aussi hypothétique, jusqu’où iront les intrusions du « capitalisme de surveillance », les manipulations de l’opinion ? L’avenir le dira mais l’actualité politique ne peut qu’inquiéter, avec le ralliement de la plupart des patrons des GAFAM à Donald Trump et la réduction du nombre des fact-checkers dans ces entreprises. Malgré des efforts méritoires, on voit mal que l’UE, consubstantiellement en proie aux divisions, qui n’a même pas été capable de susciter la création d’entreprises de taille européenne nous permettant de nous passer des GAFAM et autre TikTok, de garder par devers nous des informations qui font les profits d’entreprises étrangères, tout en nous protégeant des campagnes de désinformation, puisse véritablement nous mettre à l’abri des catastrophes annoncées. Quant à la France, il y a des décennies qu’elle attend d’être gouvernée…
Alors oui. La terreur est déjà là.
Michel Herland
(1) Voir dans la revue l’article de Philippe Lemoine.
(2) Nicolas Léger et Adrien Tallent dans l’« Introduction » au dossier.
Parmi les séductions peut-être les plus dangereuses de l’IA figure sa capacité de devancer nos désirs. La citation de Bill Gates en exergue est tirée d’un article de Vanity Fair France en date du 12 avril 2025, en fait un entretien du fondateur de Microsoft avec David Remnick du New Yorker (https://www.vanityfair.fr/article/bill-gates-avec-les-reseaux-sociaux-et-intelligence-artificielle-je-me-rends-compte-que-jai-ete-assez-naif). C’est en ouvrant mon téléphone (ordiphone !) quatre jours plus tard que j’ai constaté que cet article m’était proposé. Les réseaux sociaux n’étaient nullement en cause, simplement la page d’accueil du téléphone. Ce dernier, plus précisément l’arsenal de données et de logiciels avec lequel il communique, « n’ignorait » donc pas que j’avais formulé quelques requêtes sur internet concernant l’IA et « savait » que je serais intéressé par l’opinion de Bill Gates.
(3) Certaines cultures admettent une forme d’esclavage qui pourrait paraître volontaire, lorsque un débiteur dans l’incapacité de rembourser sa dette se propose lui-même comme esclave temporaire à son créancier. On voit bien, dans ce cas, combien la liberté du débiteur est en réalité illusoire.
(4) On en recenserait déjà 500 rien qu’en Chine. https://fr.gatestoneinstitute.org/21558/villes-intelligentes.
(5) Voir les images effarantes d’Indonésiens (jusqu’à Bali !) se baignant au milieu des déchets de plastique.
(7) Cf. l’article cité dans la note précédente.
(8) Voir la note 2.
(9) Ich bin dein Mensch (Je suis ton homme), un film de Maria Schrader (2021). Des entreprises comme Clone Robotics (encore une recommandation de l’ordiphone !) sont déjà en mesure de produire des humanoïdes artificiels dont l’aspect et les mouvements sont très proches de ceux d’un authentique humain.