Character AI Ajoute des Outils de Supervision Parentale pour la Sécurité des Adolescents
Character AI, la plateforme connue pour permettre aux utilisateurs de créer et d'interagir avec des personnages d'IA, prend des mesures pour améliorer la sécurité de ses jeunes utilisateurs. En réponse à une série de poursuites et d'inquiétudes concernant la protection des mineurs, l'entreprise a annoncé le déploiement de nouveaux outils de supervision parentale.
Ces outils visent à fournir aux parents et tuteurs des informations sur l'activité de leurs adolescents sur la plateforme. Une fonctionnalité clé est un résumé hebdomadaire par e-mail qui détaille le temps moyen passé sur l'application et le site web, la durée des conversations avec des personnages d'IA spécifiques et une liste des personnages avec lesquels ils ont le plus interagi au cours de la semaine.
Character AI souligne que ces données sont destinées à donner aux parents une meilleure compréhension des habitudes d'engagement de leurs adolescents sur la plateforme, sans leur accorder un accès direct au contenu des discussions.
Mesures de sécurité existantes
Ce n'est pas la première fois que Character AI s'aventure dans l'amélioration de la sécurité. L'année dernière, l'entreprise a mis en œuvre plusieurs mesures, notamment un modèle d'IA dédié aux utilisateurs de moins de 18 ans, des notifications concernant le temps passé sur l'application et des clauses de non-responsabilité rappelant aux utilisateurs qu'ils interagissent avec l'IA. De plus, Character AI s'est efforcé de bloquer les contenus sensibles en créant de nouveaux classificateurs spécifiquement pour les adolescents.
Le passage à une plus grande supervision parentale intervient après que Character AI ait fait l'objet d'une plainte plus tôt cette année alléguant l'implication de l'entreprise dans le suicide d'un adolescent. L'entreprise a déposé une requête en rejet de la plainte.
Source: TechCrunch