Quand Internet ment à l’IA : le poisoning comme arme de désinformation
Introduction : Une fausse annonce de la mort de Donald Trump a été reprise par un assistant IA. Derrière cette histoire absurde se cache un risque bien réel : la manipulation volontaire des sources utilisées par les modèles de langage… Elle provenait d’une opération menée par des membres du subreddit r/poisonAI. Leur objectif était de publier suffisamment de contenus absurdes autour de cette histoire pour observer si elle finirait par être reprise par des systèmes d’intelligence artificielle. L’expérience a fonctionné. DuckDuckGo Search Assist a présenté cette histoire comme un fait, en s’appuyant sur des publications Reddit, un faux site d’information locale et des contenus sans rapport direct avec l’affirmation. Derrière cette anecdote volontairement grotesque se trouve une question beaucoup plus sérieuse :