[Outils Next] Une extension Chrome et Firefox pour être alerté des sites GenAI

Image may be NSFW.
Clik here to view.

Next a identifié plus de 1 000 sites d’information utilisant plus ou moins massivement l’intelligence artificielle pour générer des articles censés avoir été écrits par des journalistes, soulevant des questions quant à la qualité des informations. Pour vous donner un maximum de cartes en mains, nous vous proposons une extension pour Chrome et Firefox permettant d’être alertés lorsque vous visitez un tel site.

Dans une très longue enquête, notre journaliste Jean-Marc Manach explique comment il a découvert plus de 1 000 sites d’information francophones utilisant l’intelligence artificielle pour publier et/ou traduire des articles.

Preuve s’il en est besoin de l’ampleur du phénomène, on en retrouve même dans Google Actualités. Nous y reviendrons dans les jours à venir, avec d’autres articles consacrés aux « hallucinations » et « infox » relayées par ces articles GenAI, ceux reposant sur du plagiat, ou parasitant la presse régionale.

• [Enquête] Plus de 1 000 médias en français, générés par IA, polluent le web (et Google)

GenAI : restez bien informés avec notre extension

Nous avons décidé de développer une extension maison pour navigateur avec l’aide d’une IA (Claude.ai) et d’un développeur de chez moji (Hezirel, sur son temps libre, merci à lui !). Son but : vous prévenir lorsque vous visitez un site de notre liste de surveillance.

Le fonctionnement est on ne peut plus simple : l’extension tourne en tâche de fond et affiche un pop-up en cas d’alerte, avec le message suivant : « D’après les constatations (humaines) de Next.ink, des articles de ce site semblent avoir été (en tout ou partie) générés par IA ».

Image may be NSFW.
Clik here to view.

Détection sur le domaine

La détection se fait sur la base du nom de domaine, pas de chaque page individuellement. Un signalement ne veut donc pas forcément dire que l’article en question est généré à l’aide d’une IA, mais qu’on en retrouve sur ce nom de domaine.

En cliquant sur le bouton de l’extension, vous retrouverez la grille de lecture (liste non cumulative, ni exhaustive) nous ayant permis de détecter les sites d’info contenant des articles qui semblent avoir été (en tout ou partie) générés par IA :

• Ils ont recours à des expressions, patterns ou hallucinations typiques des contenus GenAI,
• sont signés de journalistes qui n’existent pas et/ou dont l’hyperproductivité est inhumaine,
• ne sont que des traductions et/ou paraphrases d’autres articles (mais sans les mentionner),
• ont recours à des images générées par IA ne correspondant pas aux critères journalistiques,
• alignent des poncifs lénifiants ou moralisants plutôt que de présenter et recouper des faits,
• ont été publiés sur un site sans mention légale (ou fictive) et sans directeur de publication,
• usurpent la réputation de « noms de domaine expirés » pour cibler Google News & Discover,
• s’apparentent plus à des contenus optimisés pour le SEO qu’à des articles journalistiques.

Suivez un des liens ci-dessous, ajoutez l’extension à votre navigateur et c’est terminé. L’extension tourne en tâche de fond. Elle est disponible sur les boutiques officielles de Chrome (compatible avec les navigateurs basés sur Chromium) et Firefox.

• Télécharger l’extension pour Chrome (arrivée imminente)
• Télécharger l’extension pour Firefox

Retour sur le développement de l’extension

Depuis le début de notre enquête (il y a plusieurs mois) et face à l’ampleur du phénomène, l’idée d’une extension pour les navigateurs s’est imposée. Avec plusieurs centaines de sites référencés, on ne peut pas vérifier manuellement la liste chaque fois que l’on visite un nouveau site.

J’ai quelques connaissances en développement, je comprends donc bien la logique algorithmique. Je suis aussi capable de suivre le déroulement d’un programme, d’adapter et vérifier le code (sur du code simple comme c’est le cas ici). À l’époque de l’IA générative, je me suis donc appuyé sur cette dernière pour développer les grandes lignes de ce projet. Claude.ai a été mis à contribution et, en une soirée à peine, j’avais déjà une première version de l’extension fonctionnelle.

Nous l’avons améliorée au fil du temps, avec notamment la possibilité de nous signaler des sites. Il suffit de cliquer sur l’icône pour faire apparaitre un menu avec l’URL du site prérempli (libre à vous de la modifier), un menu pour la catégorie et un champ description (deux champs optionnels). Cliquez sur « Signaler ce site » et ces informations seront ensuite récupérées par un serveur et stockées dans une base de données que nous pouvons consulter.

Image may be NSFW.
Clik here to view.

Aucune autre information n’est envoyée, mais vous pouvez ajouter des précisions et/ou un email dans le champ description si besoin. Avec Hezirel, nous avons travaillé à obfusquer la base de données des URL et optimiser le code (en partant de ce que j’ai produit avec Claude.ai, il a donc fait ce qu’il a pu dans un temps contraint), pour arriver à la version proposée actuellement.

Flock s’est occupé des petites icônes, mais avec des images de 128 x 128 pixels au maximum, son talent ne pouvait guère s’exprimer. Cette extension est donc le fruit d’un travail d’équipe, mais vous pouvez quand même apprécier le Go Go gadget-au-chapeau en tête d’article.

Des bugs peuvent arriver (et arriveront surement), n’hésitez donc pas à nous les signaler. Même chose si vous avez des idées de fonctionnalités intéressantes à ajouter. Nous lirons vos retours et vos commentaires avec intérêt.