Le Royaume-Uni Veut Interdire Les Apps Deepfakes de Nudification Protégeant Les Enfants

28/04/2025 Cybersécurité

Un rapport récent met en évidence la prévalence alarmante des applications deepfake alimentées par l'IA qui génèrent des images nues ou sexuelles, ce qui a un impact particulier sur les jeunes. Le Commissaire aux droits de l'enfant du Royaume-Uni plaide pour une interdiction complète de ces applications de "nudification" en raison de leurs effets néfastes sur le bien-être et la sécurité des enfants.

L'Impact sur les Jeunes

La prolifération de ces applications aurait conduit à une tendance inquiétante : les jeunes filles hésitent de plus en plus à publier des photos en ligne, craignant que leurs images ne soient manipulées et exploitées. Cela met en évidence le profond impact psychologique d'une telle technologie sur les jeunes.

Dame Rachel de Souza, la Commissaire aux droits de l'enfant, a souligné la peur que suscite chez les enfants la simple existence de ces applications. La facilité avec laquelle quelqu'un peut créer une image nue à l'aide d'un smartphone soulève d'importantes préoccupations quant aux abus et manipulations potentiels.

Appels à l'Action Gouvernementale

De Souza exhorte le gouvernement à mettre en œuvre une interdiction totale des applications qui utilisent l'intelligence artificielle pour générer des deepfakes à caractère sexuel explicite. En outre, elle plaide pour l'établissement de responsabilités légales pour les développeurs d'applications GenAI afin d'identifier et d'atténuer de manière proactive les risques que leurs produits posent pour les enfants.

Ces responsabilités comprendraient la mise en œuvre de systèmes efficaces pour supprimer le matériel d'abus sexuels sur enfants (CSAM) d'Internet et la reconnaissance de l'abus sexuel de deepfake comme une forme de violence contre les femmes et les filles.

Bien que le Royaume-Uni ait déjà pris des mesures pour criminaliser la production et le partage de deepfakes à caractère sexuel explicite et le partage d'images intimes non consensuelles, l'objectif du Commissaire aux droits de l'enfant est le préjudice spécifique infligé aux jeunes.

Le rapport souligne la corrélation entre l'abus de deepfake et les graves problèmes de santé mentale, notamment les idées suicidaires et le SSPT. Cela met en évidence la nécessité urgente de mesures ciblées pour protéger les jeunes vulnérables des conséquences dévastatrices de cette technologie.