OpenAI Sous le Feu des Critiques pour les Problèmes d'Informations Erronées de ChatGPT
Cela fait plus de deux ans que ChatGPT a fait irruption sur la scène mondiale et, malgré les progrès d'OpenAI, le problème des "hallucinations" persiste - où l'IA présente de fausses informations comme des faits. Le groupe de défense autrichien Noyb a déposé une deuxième plainte contre OpenAI, citant un cas où ChatGPT a faussement accusé un Norvégien d'être un meurtrier.
Selon la plainte, lorsqu'on lui a posé des questions sur cet homme, ChatGPT a affirmé qu'il avait été condamné à 21 ans de prison pour avoir tué deux de ses enfants et tenté d'assassiner le troisième. L'IA a même inclus des détails réels tels que le nombre d'enfants, leur sexe et sa ville natale, brouillant davantage la frontière entre le réel et la fiction.
Allégation de Violation du RGPD
Noyb soutient que cette réponse viole le RGPD. Joakim Söderberg, avocat spécialisé dans la protection des données chez Noyb, a déclaré : "Le RGPD est clair. Les données personnelles doivent être exactes. Et si ce n'est pas le cas, les utilisateurs ont le droit de les faire modifier pour qu'elles reflètent la vérité. Une simple clause de non-responsabilité concernant d'éventuelles erreurs ne suffit pas à justifier la diffusion de fausses informations."
D'autres cas d'hallucinations de ChatGPT incluent de fausses accusations de fraude, de détournement de fonds, de maltraitance d'enfants et de harcèlement sexuel.
La plainte initiale de Noyb en avril 2024 portait sur une date de naissance incorrecte. La réponse d'OpenAI a été qu'elle ne pouvait pas modifier les informations existantes, mais seulement bloquer leur utilisation dans certaines requêtes, ChatGPT s'appuyant sur une clause de non-responsabilité concernant d'éventuelles inexactitudes.
La question demeure : une simple mise en garde suffit-elle à excuser la diffusion d'informations potentiellement préjudiciables par un chatbot d'IA largement utilisé ? Nous attendons la réponse d'OpenAI à cette dernière plainte.
Source: Engadget