161

@manhackFebruary 6, 2025 at 4:49 AM EST

[Enquête @next.ink @checknews.bsky.social ] Plus de 1 000 médias en français, générés par IA, polluent le web (et Google) #thread 🧵 Mi-octobre, j'en avais identifié 100, 500 à Noël, & 1 000 fin janvier, dont 28 figurent dans le Top1000 de SimilarWeb... /1 next.ink

Tout a commencé il y a un an, lorsque j'ai commencé à recevoir des alertes Google me renvoyant vers des sites d'infos inconnus jusqu'alors, illustrés d'images et/ou dont les articles étaient générés par IA (GenAI) /2 J'ai pu les identifiés comme tels parce que j'avais déjà consacré deux articles à la détection des contenus GenAI : Comment tenter d’identifier les textes émanant d’intelligences artificielles génératives ? /3 next.ink

Comment tenter d’identifier les images générées par des intelligences artificielles ? J'ai depuis affiné la méthodologie, qui a aussi été validée par deux contributeurs expérimentés de @wikipediafr.bsky.social (j'y reviendrai) /4 next.ink

En mai, j'avais identifié 67 sites d'infos GenAI. Avec des étudiants de l'Ecole Française de Jjournalisme (EFJ), on avait alors découvert que 25 d'entre eux faisaient aussi dans le plagiat, traduisant en français des articles étranger... mais sans mentionner leurs sources /5 Fin octobre, j'en avais identifié plus de 250, et ai donc proposé à @checknews.bsky.social de m'aider à enquêter à leur sujet, tellement la tâche semblait herculéenne, cf l'enquête de @jacquespezet.bsky.social & @curiolog.bsky.social : /6 liberation.fr

Le nombre de questions (déontologiques, juridiques, légales, médiatiques, financières, notamment) que cela pose est également (hautement) problématique : on fait quoi, quand l'information est déshumanisée, non vérifiée, que le travail des journalistes est plagié ? /7 Depuis, j'ai découvert qu'une centaine (au moins, mais probablement bien plus) de ces 1 000 sites GenAI relèvent en tout ou partie du plagiat... dont 18 des 28 figurant dans le Top1000 des sites d'infos en français de SimilarWeb ! /8 Certains articles GenAI parlent par ailleurs de... "moteurs à eau" (mauvaise traduction de "moteurs à hydrogène"), faute d'avoir été relus avant publication, entre autres "hallucinations" GenAI /9

Ces sites d'infos GenAI ont tellement industrialisé la production automatisée d'articles (jusqu'à 1 article par... minute, 6 000 par jour, 24h/24, 7j/7, 365j/365) qu'ils ne sont pas relus & relaient (donc) n'importe quoi /10 Dans les jours à venir, je reviendrai plus particulièrement sur les sites GenAI reposant sur du plagiat, mais néanmoins indexés dans Google Actualités/Discover, ou parasitant la PQR /11 Mais également sur les générateurs d'articles GenAI optimisés pour cibler Google Actualités & Discover, son IA de recommandation d'articles, machine à cash des sites d'info GenAI : 80% d'entre eux émanent de pros du "Black Hat SEO"... /12 Reste que depuis des mois, voire des années, des centaines voire milliers de sites d'informations (en français) générés par IA polluent le web ET sont indexés par Google, y compris Google Actualités /13 Contacté, Google nous explique que son moteur de recherche ne fait pas de différence entre contenu émanant d'être humains ou générés par IA, du moment qu'ils sont de qualité... mais qu'il combat le spam (voire) /14 Le Règlement européen sur l’IA applicable à partir du 2 août 2026, exige que les contenus GenAI soient identifiables comme ayant été générés ou manipulés par une IA /15 hal.science

En attendant, j'ai donc aussi rédigé un mode d'emploi : Comment reconnaître les sites (d’infos) générés par des IA ? /16 next.ink

Ce pourquoi @gathor.bsky.social a aussi développé une extension Chrome et Firefox pour être alertés quand vous consultez des sites d'infos GenAI : /17 next.ink

tl;dr : la grille de lecture (liste non cumulative, ni exhaustive) nous ayant permis de détecter les sites d'info contenant des articles qui semblent avoir été (en tout ou partie) générés par IA : /18

Pour @checknews.bsky.social @curiolog.bsky.social m'a aussi demandé d'expliquer comment j'avais fait pour identifier « à l’œil nu et à la main » ces + de 1000 sites d'infos GenAI : /19 liberation.fr

Cf aussi le #thread de @juleswp.bsky.social qui m'a énormément aidé & qui a découvert que 433 des 1066 sites GenAI que j'ai identifiés sont mentionnés sur @wikipediafr.bsky.social et qui y a publié les résultats de son analyse : fr.wikipedia.org bsky.app

Jules02/06/25

Cette enquête s'insère dans celle initiée par Jean-Marc Manach de @manhack.bsky.social pour le média next.ink, à laquelle s'est associé @checknews.bsky.social.

[Enquête] Plus de 1 000 médias en français, générés par IA, polluent le web (et Google) - Next

next.ink

« Si beaucoup de ces sites automatisés grâce à l'IA ne servent que des intérêts bassement mercantiles, leur prolifération soulève de réelles questions économiques, sociales et politiques », écrit @onesque.bsky.social : GenAI, arme de désinformation massive /22 next.ink

40 médias français demandent à la Justice d'ordonner aux FAI le blocage du site news.dayfr.com, le plus bourrin du millier de sites d'informations générés par IA que nous avons identifiés, qui plagie de 5 à 15 articles... par minute, et jusqu'à plus de 6 000 par jour. /23 next.ink

En France, des milliers de sites générés par IA parasitent l'information @matteocaranta.bsky.social m'a demandé de résumer mon enquête @next.ink & @checknews.bsky.social, ça ne dure que 4 minutes, mais c'est une bonne intro en la matière /24 radiofrance.fr

L'extension Chrome et Firefox que @gathor.bsky.social @next.ink a développé pour vous alerter si vous consultez un (soit-disant) site d'info généré par intelligence artificielle (GenAI) passe de 1 000 (la semaine passée) à plus de 1 500 sites GenAI identifiés ! /25 next.ink

Google Actualités & Discover sont truffés de plagiats générés par des IA Plus d'une centaine (au moins) des 1 500 sites d'information générés en tout ou partie par des IA que @next.ink a identifiés plagient des articles de vrais journalistes... /26 next.ink

Directeur pédagogique d’une école de journalisme (d'extrême-droite), il génère ses articles par IA. Ses plagiats seraient dus à un « bug du script » envoyé à ChatGPT qui, « étant complètement idiot, parfois, ne fait pas ce qu'on lui dit » (sic). /27 @next.ink : next.ink

Alerte GenIA : notre extension débarque sur Firefox Android, identifie désormais 2 000 (soi-disant) sites d'information générés, « en tout ou partie », par IA, et vous pouvez désactiver l’alerte sur certains sites. /28 next.ink

De nombreux médias ont relayé une « rumeur » avançant que les voitures de plus de 10 ans devraient faire l'objet d'un contrôle technique tous les ans. Or, l'information avait été « hallucinée » dans des articles & sites d'info générés par IA (GenAI). /29 @next.ink : next.ink

Notre extension Chrome/Firefox vous alerte non seulement quand vous consultez des sites générés par IA (GenAI), mais aussi des noms de domaine potentiellement malveillants des bases de Red Flag Domains & de l'Autorité des marchés financiers, façon filtre anti-arnaques ! /30 next.ink

La presse régionale est, elle aussi, cannibalisée par des sites d’infos générés par IA. Au point que des journalistes de la PQR se retrouvent à devoir fact-checker des infos erronées car « hallucinées » par les IA qui les publient. /31 @next.ink : next.ink

Notre extension Chrome/Firefox vous alerte désormais lorsque vous visitez l'un des... 3 000 médias générés par IA que nous avons identifiés, ainsi que 27 000 domaines potentiellement malveillants & les 2 000 cyberarnaques black-listées par l'AMF : /32 next.ink

1 / 2