Politiques de génération d'images de ChatGPT : moins de censure ?
OpenAI prend une mesure audacieuse en assouplissant ses politiques de modération du contenu pour le générateur d'images de ChatGPT, s'éloignant des refus catégoriques vers une approche plus nuancée.
Ce changement permet à ChatGPT de générer des images de personnalités publiques, de caractéristiques raciales auparavant restreintes et même de symboles potentiellement haineux, à condition qu'ils soient utilisés dans des contextes éducatifs ou neutres et ne fassent pas la promotion de l'extrémisme.
Principaux changements de politique
La politique mise à jour marque un changement significatif dans l'approche d'OpenAI en matière de modération du contenu. Auparavant, ChatGPT rejetait les invites impliquant des personnalités publiques comme Donald Trump ou Elon Musk, ou celles demandant des modifications des caractéristiques physiques. Désormais, la plateforme peut traiter ces demandes.
Selon Joanne Jang, responsable du comportement des modèles chez OpenAI, cette évolution vise à prévenir les dommages dans le monde réel tout en faisant preuve d'humilité, en reconnaissant le processus d'apprentissage de l'entreprise et en s'adaptant aux nouvelles informations.
Cette démarche s'aligne sur l'objectif plus large d'OpenAI de « dé-censurer » ChatGPT, lui permettant de traiter des demandes plus diverses et d'offrir un éventail plus large de perspectives. Cependant, ce n'est pas un laissez-passer. Des garanties restent en place, en particulier en ce qui concerne les images d'enfants, GPT-4o ayant des règles plus strictes que son prédécesseur, DALL-E 3.
Naviguer dans le droit d'auteur et les styles créatifs
ChatGPT peut désormais imiter les styles de studios de création tels que Pixar ou Studio Ghibli, ouvrant de nouvelles possibilités pour la génération d'images. Cependant, il évite toujours d'imiter les styles d'artistes vivants individuels, ce qui pourrait relancer le débat sur l'utilisation équitable des œuvres protégées par le droit d'auteur dans les ensembles de données d'entraînement de l'IA.
Le contexte plus large et les implications potentielles
La décision d'OpenAI intervient dans un contexte d'examen minutieux croissant de la modération du contenu de l'IA, certains critiques alléguant une « censure » de la part des entreprises de la Silicon Valley. Les changements pourraient être une manœuvre stratégique, compte tenu de la surveillance réglementaire potentielle sous une future administration Trump.
Bien que l'impact initial ait été des mèmes viraux de style Studio Ghibli, les effets à long terme de ces changements de politique restent incertains. Permettre à un chatbot d'IA de traiter des questions sensibles pourrait entraîner à la fois des opportunités et des défis pour OpenAI.
Source: TechCrunch