Meta Ne Réussit Pas à Contrer les Escroqueries aux Deepfakes d'IA

06/06/2025 Technologie

Le Conseil de Surveillance a publié un rapport critique sur la manière dont Meta gère les arnaques aux deepfakes de célébrités, affirmant que l'entreprise n'applique pas correctement ses propres politiques. Les conclusions du conseil découlent d'une affaire impliquant une publicité frauduleuse pour un casino en ligne présentant une vidéo manipulée par IA du footballeur à la retraite Ronaldo Nazário. Malgré de nombreux signalements, la publicité, visionnée plus de 600 000 fois, est restée sur la plateforme pendant une période considérable avant d'être retirée.

Application Insuffisante

L'enquête du Conseil de Surveillance a révélé que les processus de modération de contenu de Meta sont insuffisants pour traiter le problème généralisé des arnaques aux célébrités générées par IA. Le rapport souligne que les examinateurs manquent de l'autorité et de la formation nécessaires pour identifier et supprimer efficacement ce type de contenu, ce qui conduit à un nombre important d'arnaques qui passent inaperçues. Le conseil critique spécifiquement l'approche de Meta, notant des incohérences dans l'application et une tendance à ne prioriser que les cas escaladés.

Réponse de Meta et Préoccupations Continues

Meta, en réponse, a contesté plusieurs points soulevés par le conseil, soulignant ses efforts continus pour lutter contre les arnaques, y compris la mise en œuvre de la technologie de reconnaissance faciale. Cependant, les préoccupations du Conseil de Surveillance vont au-delà de ce cas particulier. Les rapports d'arnaques similaires mettant en vedette des personnalités comme Elon Musk et Jamie Lee Curtis, ainsi que des préoccupations plus larges du secteur, suggèrent un problème systémique. Des rapports externes indiquent que les plateformes de Meta représentent une proportion importante des arnaques signalées sur diverses plateformes financières. Cela soulève de sérieuses inquiétudes quant à l'efficacité des stratégies actuelles de Meta et à sa volonté de lutter agressivement contre les activités frauduleuses.

La recommandation du Conseil de Surveillance exhorte Meta à améliorer ses lignes directrices internes, à habiliter les examinateurs de contenu et à dispenser une formation sur l'identification de contenu manipulé par IA. La situation souligne un défi plus large auquel sont confrontées les plateformes de médias sociaux à mesure que la technologie des deepfakes d'IA devient de plus en plus accessible et sophistiquée.