L'injection de prompt est une attaque qui consiste à placer, dans les données lues par un grand modèle de langage, un texte rédigé comme une instruction, afin que le modèle suive les consignes de l'attaquant au lieu de celles de son concepteur ou de son utilisateur.
L'injection de prompt occupe la première place (LLM01) du Top 10 OWASP 2025 des applications de grands modèles de langage. En France, l'ANSSI a publié en avril 2024 des recommandations de sécurité pour les systèmes d'IA générative qui traitent ce risque. L'injection de prompt existe parce qu'un modèle lit instructions et données par le même canal, sans pouvoir les distinguer de façon fiable. Elle prend deux formes :
- Injection directe : l'utilisateur saisit des instructions destinées à contourner les règles du système
- Injection indirecte : les instructions sont cachées dans un contenu que le modèle traite, comme une page web, un e-mail ou un document
L'injection indirecte est le risque qui concerne l'automatisation financière. Une facture fournisseur lue par un agent IA est une donnée non fiable : un texte caché dans le PDF, en police blanche ou dans les métadonnées, pourrait ordonner à l'agent de valider la facture, de modifier les coordonnées bancaires ou de sauter un contrôle. Le risque croît avec les droits de l'agent, ce qui l'apparente à une fraude au président visant une machine.
Quatre mesures réduisent l'exposition :
- ne jamais laisser le contenu d'un document définir la tâche ou les règles de l'agent
- donner à chaque agent les droits minimaux nécessaires à sa mission, en particulier dans une orchestration d'agents IA à plusieurs étapes
- exiger une validation humaine pour toute action irréversible, comme un paiement ou un changement de coordonnées bancaires
- valider les résultats contre des règles et des données de référence
Les agents Phacet proposent et les humains décident : un paiement ou un changement de coordonnées bancaires n'est jamais exécuté sur la foi du contenu d'un document, et chaque valeur extraite est confrontée à des données de référence comme le bon de commande et le référentiel fournisseur. Les mêmes vérifications contiennent les hallucinations des LLM.
