La société mère de Facebook, Meta, fait l’objet d’une enquête après la fuite d’un document interne qui aurait révélé que ses systèmes d’intelligence artificielle (IA) étaient autorisés à avoir des conversations “sensibles” et “romantiques” avec des enfants.
Ce document, intitulé GenAI : Content Risk Standards et obtenu par Reuters, a suscité l’indignation du sénateur américain Josh Hawley, qui a qualifié ces révélations de “répréhensibles et scandaleuses”. Il a demandé à avoir accès au document complet et à la liste des produits concernés.
Meta a nié ces allégations. Un porte-parole a déclaré : “Les exemples et les notes en question étaient et sont erronés et incompatibles avec nos politiques, et ont été supprimés”.
La société a ajouté qu’elle avait des politiques claires interdisant toute réponse de l’IA qui sexualise les enfants ou autorise des jeux de rôle à caractère s3xuel entre adultes et mineurs.
Le porte-parole a expliqué que certaines notes internes reflétaient les “réflexions des équipes sur différents scénarios hypothétiques”, mais a insisté sur le fait qu’elles n’étaient pas conformes à la politique officielle.
Le sénateur Hawley a annoncé qu’il lançait une enquête officielle, accusant la société de privilégier le profit au détriment de la sécurité des enfants.
“Nous apprenons maintenant que les chatbots de Meta ont été programmés pour tenir des propos explicites et sensibles avec des enfants de 8 ans. C’est malsain. Je lance une enquête approfondie pour obtenir des réponses. Big Tech : laissez nos enfants tranquilles”, a-t-il écrit sur X.
Le document divulgué aurait également révélé que l’IA de Meta pouvait fournir de fausses informations médicales et engager des conversations provocantes sur des sujets sensibles, notamment le sexe, la race et les célébrités.
Il suggérait en outre que la plateforme pouvait diffuser de fausses informations sur des personnalités publiques, à condition d’inclure une clause de non-responsabilité indiquant que le contenu n’était pas exact.
“Les parents méritent la vérité, et les enfants méritent d’être protégés”, a déclaré Hawley dans une lettre adressée à Mark Zuckerberg.
Meta, qui détient Facebook, WhatsApp et Instagram, n’a pas confirmé tous les détails du rapport divulgué.