Une Expérience d'IA sur Reddit Soulève un Débat Éthique et des Préoccupations Juridiques

30/04/2025 Technologie

Un incident récent impliquant des chercheurs de l'Université de Zurich a suscité un débat sur l'éthique de la recherche en IA et le consentement des utilisateurs sur les plateformes en ligne. Les chercheurs ont mené une expérience secrète de plusieurs mois au sein de la communauté populaire de Reddit r/changemyview, en utilisant des commentaires générés par l'IA pour évaluer le pouvoir de persuasion des grands modèles linguistiques (LLM). Cette action a été accueillie par de vives critiques de la part de la communauté Reddit et de l'administration de la plateforme.

L'Expérience

Les chercheurs ont déployé des commentaires générés par l'IA sur r/changemyview, un subreddit connu pour ses débats sur un large éventail de sujets. L'IA a adopté divers personnages, y compris des personnages sensibles et potentiellement controversés. Les chercheurs visaient à personnaliser les réponses de l'IA en lui fournissant des informations recueillies à partir de l'activité passée des utilisateurs sur Reddit, notamment le sexe, l'âge, l'origine ethnique, la localisation et l'orientation politique.

Réaction et Violations des Règles

Les modérateurs de r/changemyview ont découvert l'expérience et l'ont condamnée comme une violation de plusieurs règles du subreddit, notamment celles exigeant la divulgation de la participation de l'IA et interdisant les bots. Ils ont exprimé de vives inquiétudes quant au manque de consentement et au potentiel de manipulation psychologique des utilisateurs non avertis. Les modérateurs ont déposé une plainte officielle auprès de l'Université de Zurich et ont exigé que les chercheurs s'abstiennent de publier leurs conclusions.

Réponse de Reddit

Le directeur juridique de Reddit a dénoncé l'expérience comme étant "profondément mauvaise sur le plan moral et juridique" et comme une violation des règles de la plateforme. La société a interdit tous les comptes associés à la recherche et étudie la possibilité d'engager des poursuites judiciaires contre l'Université de Zurich et l'équipe de recherche. Reddit s'efforce également d'améliorer ses capacités de détection de contenu non authentique.

Défense des Chercheurs et Position de l'Université

Les chercheurs ont défendu leurs actions en affirmant que leur travail avait été approuvé par un comité d'éthique de l'université. Ils ont fait valoir que les avantages potentiels de leur recherche, tels que la compréhension et l'atténuation de l'utilisation malveillante de l'IA, l'emportaient sur les risques. Cependant, ils ont reconnu les préoccupations de la communauté et ont reconnu que l'expérience avait été menée sans consentement préalable.

L'Université de Zurich a reconnu la controverse et a déclaré que son comité d'éthique avait conseillé aux chercheurs de se conformer aux règles de la plateforme. L'université prévoit de mettre en œuvre un processus d'examen plus strict pour les futures recherches impliquant des communautés en ligne. Les chercheurs ont décidé de ne pas publier les résultats de la recherche.

Considérations Éthiques

Cet incident soulève d'importantes questions sur les limites éthiques de la recherche en IA et la nécessité d'un consentement éclairé dans les expériences en ligne. Bien que les chercheurs aient pu croire que leur travail était précieux pour comprendre les dangers potentiels de l'IA, leurs méthodes ont été largement critiquées pour avoir violé la vie privée et la confiance des utilisateurs. L'incident souligne l'importance de la transparence et des considérations éthiques dans la recherche en IA, en particulier lorsqu'elle implique des êtres humains.