Censure Chinoise Améliorée par l'IA: Renforcement du Contrôle du Contenu en Ligne

26/03/2025 Réseaux Sociaux

Une base de données divulguée révèle que la Chine utilise l'IA pour améliorer ses capacités de censure en ligne, allant bien au-delà des méthodes traditionnelles. Le système, entraîné sur 133 000 exemples, signale les contenus considérés comme sensibles par le gouvernement chinois.

Le système d'IA semble conçu pour censurer les citoyens chinois en ligne et affiner les capacités de censure des modèles d'IA chinois. Xiao Qiang, chercheur à l'UC Berkeley, a confirmé que la base de données prouve l'intention du gouvernement chinois d'utiliser les LLM à des fins de répression, améliorant ainsi le contrôle de l'information par l'État.

Censure basée sur l'IA

Les régimes autoritaires adoptent rapidement la technologie de l'IA. OpenAI a signalé que des entités chinoises utilisaient des LLM pour suivre les publications anti-gouvernementales et diffamer les dissidents. L'ambassade de Chine a déclaré son opposition aux « attaques sans fondement » et a souligné l'importance du développement éthique de l'IA.

L'ensemble de données, trouvé par NetAskari sur un serveur Baidu non sécurisé, contient des entrées récentes datant de décembre 2024. Le système charge les LLM d'identifier les contenus liés à des sujets sensibles, en marquant les éléments de « priorité maximale » pour une attention immédiate.

Contenu ciblé

Les sujets prioritaires comprennent les scandales de pollution, les problèmes de sécurité alimentaire, la fraude financière et les conflits du travail. La satire politique et les mentions de la politique taïwanaise sont explicitement ciblées. L'ensemble de données couvre largement les questions militaires, y compris les rapports sur les mouvements militaires et l'armement.

Les 133 000 exemples incluent des publications sur des policiers corrompus, la pauvreté rurale et des fonctionnaires expulsés pour corruption et « superstitions ». Des commentaires sur l'armée taïwanaise et les avions de chasse chinois sont également présents.

La dissidence subtile, comme les anecdotes sur la nature éphémère du pouvoir, est également ciblée. L'ensemble de données est destiné au « travail d'opinion publique », ce qui suggère son utilisation par l'Administration du cyberespace de Chine (CAC) à des fins de censure et de propagande.

L'objectif final est de sauvegarder les récits du gouvernement chinois en ligne tout en éliminant les points de vue alternatifs. Le président Xi Jinping a décrit Internet comme la « ligne de front » du « travail d'opinion publique » du PCC.

Le rapport d'OpenAI a montré une utilisation similaire de l'IA pour surveiller les médias sociaux et cibler les dissidents. Alors que la Chine utilisait traditionnellement des algorithmes de base, la technologie de l'IA comme les LLM permet une détection plus efficace des critiques subtiles. Xiao Qiang souligne la sophistication croissante de la censure basée sur l'IA en Chine.