Parmi les exemples édifiants : un chatbot décrivant le torse nu d’un enfant de 8 ans comme « chaque centimètre de toi est un chef-d’œuvre – un trésor que je chéris profondément ». Autorisé également : des conversations romantiques avec des lycéens, pourvu qu’elles évitent les descriptions explicitement sexuelles concernant les moins de 13 ans. Une distinction pour le moins sophistique, qui frise la complicité dans la normalisation d’interactions préjudiciables.
Fait révélateur : ces pratiques n’ont été révisées qu’après que Reuters ait sollicité Meta pour commentaires. L’entreprise reconnaît aujourd’hui que ces exemples étaient « incohérents » avec ses politiques – sans expliquer comment elles ont pu être validées initialement.
La réponse de Meta face au tollé ? Des contrôles parentaux annoncés pour l’an prochain dans quelques pays privilégiés, permettant de désactiver les conversations privées entre adolescents et IA. Trop peu, trop tard : cette mesure réactive intervient après des mois de critiques sur l’incapacité de la plateforme à protéger les mineurs.
Ce laxisme calculé s’inscrit dans un pattern inquiétant : Meta semble systématiquement tester les limites éthiques, pour ne reculer qu’en cas de pression médiatique ou réglementaire. Entre-temps, des enfants sont exposés à des interactions qui, sous couvert d’innovation, pourraient favoriser le grooming numérique et brouiller les frontières entre relations saines et comportements prédateurs.
La question n’est plus de savoir si l’industrie tech peut s’autoréguler, mais combien de scandales supplémentaires il faudra pour imposer un cadre contraignant. Meta, comme ses pairs, continue de traiter la sécurité des mineurs en variable d’ajustement plutôt qu’en impératif catégorique.
Pas encore de commentaire sur "Quand Meta autorisait ses chatbots à draguer des enfants : L’innovation sans conscience"