Le Parti communiste chinois au pouvoir utilise l’intelligence artificielle pour intensifier la surveillance et le contrôle de ses 1,4 milliard de citoyens, cette technologie s’étendant de plus en plus à la vie quotidienne, prédisant les manifestations publiques et surveillant l’humeur des détenus, selon un nouveau rapport .

Bon nombre de ces systèmes sont déjà bien documentés – depuis l’armée de censeurs en ligne du pays qui maintient son Grand Pare-feu, jusqu’aux caméras de surveillance omniprésentes dans presque toutes les rues et tous les pâtés de maisons des villes chinoises.

Mais le rapport publié lundi par l’Australian Strategic Policy Institute (ASPI) détaille comment les outils d’IA du gouvernement, utilisés pour « automatiser la censure, renforcer la surveillance et réprimer préventivement la dissidence », sont devenus plus sophistiqués au cours des deux dernières années – sur fond d’une rivalité technologique croissante entre les États-Unis et la Chine.

« La Chine exploite l’IA pour rendre ses systèmes de contrôle existants beaucoup plus efficaces et intrusifs. L’IA permet au PCC (Parti communiste chinois) de surveiller davantage de personnes, de plus près et avec moins d’efforts », a déclaré Nathan Attrill, co-auteur du rapport et analyste principal sur la Chine à l’ASPI, un organisme partiellement financé par le gouvernement australien et d’autres gouvernements étrangers.

Les auteurs ajoutent que les implications sont à la fois vastes et profondes – permettant à Pékin un contrôle encore plus grand sur sa population et la gestion du flux d’informations, ainsi que de renforcer son pouvoir à l’étranger en tant qu’exportateur mondial de technologies de surveillance.

Pékin a investi des centaines de milliards de dollars dans des entreprises liées à l’IA, réalisant des progrès considérables en matière de recherche et de développement – ​​malgré les efforts des États-Unis pour limiter la fourniture de puces d’IA haute puissance à la Chine.

Même le dirigeant chinois Xi Jinping a souligné l’importance de l’IA dans l’évolution de la politique internet du pays. Lors d’une réunion en novembre avec de hauts responsables du PCC, il a insisté sur le fait que l’IA « représente des défis pour la gouvernance du cyberespace tout en offrant de nouvelles perspectives de soutien », selon les médias d’État chinois – ce qui, d’après le rapport de l’ASPI, serait un euphémisme pour désigner le maintien du pouvoir et de la stabilité du régime.

Les conclusions de l’ASPI ne sont pas entièrement inédites ; d’autres chercheurs et instituts du monde entier ont déjà publié des rapports et des mises en garde similaires . Les dirigeants chinois ont ouvertement exprimé leurs ambitions en matière d’IA, ambitions partagées par certains d’autres pays. Et l’IA n’est pas encore une norme nationale : les administrations locales des grandes métropoles dotées d’infrastructures numériques existantes, comme Pékin ou Shanghai, expérimentent l’IA d’une manière que les provinces rurales ou les petites villes ne peuvent pas encore se permettre.

Mais « bon nombre des intentions et des politiques du gouvernement sont en train de se concrétiser », a déclaré Xiao Qiang, chercheur spécialiste de la liberté d’Internet à l’Université de Californie à Berkeley.

L’IA dans le système de justice pénale

L’IA étant désormais utilisée dans certains endroits pour le maintien de l’ordre, les procédures judiciaires et le fonctionnement des prisons, le rapport affirme que cette technologie pourrait finir par s’intégrer à chaque étape du système de justice pénale chinois, déjà opaque.

La surveillance commence avec le vaste réseau de caméras de surveillance chinois . Bien qu’il n’existe pas de statistiques exhaustives sur le nombre de caméras dans le pays, les estimations font état de près de 600 millions de caméras à travers la Chine, selon le rapport. Cela représente environ trois caméras pour sept habitants.

La Cour suprême chinoise a également exhorté tous les tribunaux à « développer d’ici 2025 un système d’intelligence artificielle performant », utilisable dans diverses procédures judiciaires, notamment les procès et les tâches administratives, indique le rapport. À titre d’exemple, un système d’IA de Shanghai serait capable de recommander aux juges et aux procureurs s’il convient d’arrêter ou de prononcer des peines avec sursis à l’encontre des suspects et des accusés.

Enfin, on observe une tendance croissante vers des « prisons intelligentes » où des outils d’IA peuvent suivre les déplacements et les comportements des détenus. Dans une prison , des caméras de reconnaissance faciale surveillaient les expressions des détenus et signalaient ceux qui semblaient en colère afin d’intervenir. Dans un centre de désintoxication , des détenus ont suivi une thérapie assistée par IA, dispensée via des casques de réalité virtuelle.

« Un prévenu appréhendé grâce à une surveillance basée sur l’IA et jugé dans une salle d’audience assistée par l’IA pourrait ensuite être condamné, sur recommandation d’un système d’IA, à une “prison intelligente”… intégrant une technologie intelligente de pointe », indique le rapport.

Le Bureau d’information du Conseil des affaires d’État et le ministère de la Justice chinois n’ont pas répondu à la demande de commentaires de CNN. Ils avaient précédemment critiqué l’ASPI pour avoir reçu des financements d’agences gouvernementales américaines et affirmé qu’elle manquait de crédibilité.Ces technologies intelligentes peuvent contribuer à prévenir la criminalité et à rendre les villes chinoises beaucoup plus sûres, a reconnu Xiao – mais « en raison du système politique, la même technologie peut être utilisée, et l’est effectivement, à des fins de persécution politique ».

Le système judiciaire chinois, qui répond au PCC, affiche déjà un taux de condamnation supérieur à 99 %.

Xiao a pointé du doigt plusieurs groupes vulnérables qui pourraient être davantage ciblés, notamment les minorités religieuses et ethniques comme les Ouïghours, et les dissidents politiques, qui sont depuis longtemps confrontés à la répression gouvernementale.

Des entreprises chinoises, soutenues et financées par le gouvernement central, travaillent désormais également à développer de grands modèles linguistiques (LLM) pour les langues minoritaires – notamment l’ouïghour, le tibétain, le mongol et le coréen – pour mieux « surveiller et contrôler les communications dans ces langues », a constaté le rapport.

Le rôle des géants technologiques chinois

Le rapport a également mis en lumière le rôle des plus grandes entreprises technologiques chinoises, les qualifiant de « principaux acteurs et garants des politiques de censure des contenus en ligne du PCC ».

Ces entreprises ont toujours été tenues de respecter la réglementation du gouvernement central en matière de contenu, mais elles sont désormais devenues des acteurs clés du développement de technologies de censure et de leur vente à des entreprises plus petites à travers le pays, coopérant parfois avec les autorités dans des affaires criminelles, indique le rapport.

Tencent, géant des médias sociaux et du jeu vidéo, utilise l’IA pour surveiller le comportement des utilisateurs et leur attribuer des « scores de risque » en fonction de leur activité en ligne, y compris des sanctions pour les infractions commises sur les réseaux sociaux, les groupes de discussion et autres plateformes de communication, indique le rapport.

Le moteur de recherche Baidu commercialise plusieurs outils de modération de contenu et a collaboré avec des agences gouvernementales dans plus de 100 affaires criminelles, principalement liées à la fraude et à la cybercriminalité, indique le rapport.

« En ligne, l’IA permet une censure en temps réel et une manipulation de l’opinion publique : les plateformes utilisent la modération automatisée, l’analyse des sentiments et des algorithmes de recommandation pour dévaloriser les critiques et promouvoir les discours alignés sur le parti », a déclaré Attrill, co-auteur du rapport.

L’écosystème croissant d’outils chinois de surveillance et de censure basés sur l’IA, que les petites et moyennes entreprises développent également en interne, a aussi des implications mondiales, prévient le rapport – d’autres pays autoritaires comme l’Iran et l’Arabie saoudite utilisant également l’IA pour surveiller leurs populations.

« Les programmes LLM chinois sont aujourd’hui dominés par des modèles à pondération ouverte, ce qui signifie que de nombreux autres pays – leurs entreprises, leurs unités de recherche – pourraient utiliser le modèle chinois parce qu’il est bon marché, voire gratuit », a déclaré Xiao.

Mais « si vous utilisez ces modèles, vous vous retrouvez fondamentalement sur leurs plateformes », a-t-il ajouté. « La censure, la surveillance, le contrôle et l’influence en découlent.