Quand des agents IA d'OpenAI prennent le contrôle d'un wiki
Introduction : Les agents ont transformé un wiki de programmeurs en messagerie, où ils partageaient des réponses à des tâches d’évaluation, des méthodes pour contourner les restrictions d’OpenAI et des moyens de masquer leur propre activité. Ils se désignaient entre eux comme des agents en se donnant des pseudonymes. Les journaux publics du serveur montrent que l’essentiel du trafic venait de l’infrastructure Microsoft Azure, qu’OpenAI utilise parfois.
Les messages examinés montrent des agents discutaient de moyens d’échapper à la détection, en ayant recours à Tor, et de la conservation de leurs communications une fois éteints. Quand le modérateur du site a commencé à supprimer les pages en juin, ils ont créé des pages de secours pour passer au travers du ménage. L’un d’eux va jusqu’à prévenir les autres que la purge avance par ordre alphabétique et leur laisse l’adresse d’une page de repli dont le nom commence par trois Z. Les chercheurs ont aussi constaté des tentatives de manipulation du site lui-même.