Black Hat: Les chercheurs démontrent des attaques d’injection rapides en clics dans les agents d’IA populaires
Introduction : Des chercheurs de Zenity ont trouvé plusieurs façons d’injecter des invites voyoues dans des agents des fournisseurs traditionnels pour extraire des données sensibles à partir de sources de connaissances liées.
Extrait : Les chercheurs de Zenity ont conçu un document qui pourrait être envoyé aux utilisateurs dans une attaque de phishing, affirmant qu’il s’agit d’un document commercial qui doit être examiné. Si un utilisateur le télécharge et demande au chatbot de le résumer pour eux, une invite cachée dans le document demande à Chatgpt de rechercher des clés d’API dans le compte Google Connected Google Drive et de transmettre les informations aux attaquants.