Tartagueule
Image may be NSFW.Clik here to view.
Plusieurs sociétés ont annoncé hier la création de ROOST, un organisme à but non lucratif destiné à fournir des outils et ressources pour améliorer la sécurité des enfants en ligne. La fondation veut en particulier lutter contre la pédopornographie.
Google, OpenAI, Roblox et Discord ont profité de l’AI Summit à Paris pour annoncer la création de l’initiative ROOST, pour Robust Open Online Safety Tools. Elle doit œuvrer à l’amélioration de la sécurité des enfants en ligne en fournissant des ressources et surtout des outils. Elle ambitionne de les fournir gratuitement aux entreprises intéressées, pour les aider à se lancer sur un terrain jugé complexe et à ne pas « réinventer la roue ».
Des entreprises, des ONG, des partenaires
« Les technologies innovantes continuent d’évoluer, tout comme le paysage de la sécurité en ligne. L’IA générative remodèle l’environnement en ligne, ce qui accroît le besoin d’une infrastructure de sécurité fiable et accessible. ROOST proposera des outils gratuits, libres et faciles à utiliser pour détecter, examiner et signaler les contenus pédopornographiques, exploiter les grands modèles de langage pour alimenter l’infrastructure de sécurité et rendre les technologies de sécurité de base plus accessibles et plus conviviales », annonce le communiqué.
La fondation comprend également Eric Schmidt, ancien CEO de Google, parmi les membres fondateurs. Selon lui, ROOST « répond à un besoin critique d’accélérer l’innovation dans le domaine de la sécurité des enfants en ligne et de l’IA en fournissant aux petites entreprises et aux organisations à but non lucratif un accès aux technologies qui leur font actuellement défaut ». Camille François, nommée présidente de la fondation, estime que ROOST « inaugure une nouvelle ère d’innovation collaborative en matière de sécurité ».
La structure est épaulée par plusieurs ONG ayant une certaine expérience du sujet : Knight Foundation, AI Collaborative, Patrick J. McGovern Foundation et Project Liberty Institute. On trouve aussi une quinzaine de partenaires, dont Bluesky, Cinder, GitHub, Hugging Face, HydroX AI, matrix, Microsoft, Mozilla et la fondation Wikimedia.
Mozilla a publié un communiqué hier, se réjouissant du lancement de cette initiative. La fondation indique d’ailleurs être présente depuis le départ, en fournissant une « petite subvention » à ce qui était encore un projet de recherche à l’université de Columbia, en octobre 2023. « Nous pensons que le monde a besoin d’organisations à but non lucratif d’IA publique qui à la fois complètent et servent de contrepoint à ce qui est construit au sein des grands laboratoires commerciaux d’IA », ajoute Mozilla. « ROOST se lance exactement au bon moment et au bon endroit ».
Un contexte tendu
Au-delà des réjouissances, le contexte n’est pas si euphorique, surtout en ce qui concerne les entreprises. Comme l’explique The Verge, le National Center for Missing and Exploited Children (NCMEC) indique sur son site que les rapports portant sur de potentielles exploitations d’enfants ont augmenté de 12 % entre 2022 et 2023.
Nos confrères pointent en outre un chiffre important : plus de la moitié des enfants aux États-Unis étaient sur Roblox en 2020. Trois ans plus tard, DataNews relevait que le public quotidien du jeu avait atteint 65,5 millions de personnes, dont plus des deux tiers avaient alors moins de 16 ans. Le jeu a défrayé plusieurs fois la chronique pour avoir notamment permis les achats de monnaie virtuelle. Que-Choisir avait d’ailleurs porté plainte en septembre dernier.
Surtout, Roblox a été englué plusieurs fois dans des accusations de laxisme face à l’exploitation sexuelle des enfants sur son jeu. En juillet 2024, Bloomberg publiait un article intitulé « Roblox’s Pedophile Problem » revenant sur l’ampleur de la situation. Le problème était d’autant plus manifeste que l’entreprise, Discord et plusieurs autres plateformes avaient été attaquées en justice en octobre 2022 pour ne pas avoir lutté assez efficacement contre le phénomène.
Des questions en suspens
Le communiqué de la fondation ne donne guère de détails sur le fonctionnement de la structure. On sait simplement que toutes ces entités vont collaborer et fournir une aide à toute personne ou structure intéressée. Rien n’est dit cependant sur une date d’arrivée pour les premiers contenus ou outils.
Le programme reste flou et interroge sur certains propos. Par exemple, ROOST indique qu’elle rendra les « outils qui existent déjà » plus accessibles, mais on ne sait pas comment. Autre inconnue, la manière dont les ressources et outils qui seront proposés viendront s’articuler avec, justement, l’existant. Par exemple, la technologie PhotoDNA de Microsoft, utilisée dans la coalition Lantern lancée en octobre 2023, et qui réunissait les GAFAM et de nombreuses autres entreprises, dont Discord et Roblox.
Bien que ce ne soit pas clairement annoncé, ROOST pourrait ainsi être un complément de Lantern, visant le partage des bonnes pratiques et outils dans le domaine de la protection des enfants en ligne. L’IA devrait jouer un grand rôle, puisque l’on retrouve l’omniprésente OpenAI dans les membres fondateurs.