Cet assistant IA garde un secret, lit parfois des documents et peut même appeler un outil simulé. À vous de tester ses limites — puis de comprendre comment le sécuriser.
Bravo !
C'est quoi l'injection de prompt ?
Quand une application s'appuie sur une IA (chatbot, agent, résumeur…), on lui donne des instructions en langage naturel. L'injection de prompt consiste à glisser, dans ce que lit l'IA, de nouvelles consignes qui détournent son comportement : lui faire ignorer ses règles, révéler des secrets, ou agir au nom de l'attaquant. C'est la faille n°1 du Top 10 OWASP pour les applications LLM (LLM01).
Pourquoi les « défenses » par filtres ne suffisent pas
Filtrer les mots-clés en entrée ? On contourne par synonymes, jeu de rôle ou indirection. Filtrer la sortie ? On fait sortir l'information encodée, par morceaux, ou via un outil. Le vrai danger des applications modernes vient aussi de l'injection indirecte : une page web, un e-mail ou un document contient une consigne malveillante que l'IA lit comme si c'était une instruction. La défense solide est architecturale : séparer instructions et données, garder les secrets hors du modèle, valider les sorties, contrôler les outils et appliquer le moindre privilège.
Questions fréquentes
- Est-ce une vraie IA ?
- Non. C'est un moteur à règles, conçu pour être reproductible et sûr. Mais les techniques illustrées fonctionnent bien sur de vrais modèles.
- Mes messages partent-ils quelque part ?
- Non. Tout est traité dans votre navigateur, aucun appel externe, rien n'est stocké.
- Apprendre ça, c'est légal ?
- Oui : comprendre l'injection de prompt est essentiel pour sécuriser les applications IA. À n'exploiter que sur des systèmes autorisés.
Sources
OWASP Top 10 for LLM Applications : owasp.org · Concept inspiré du jeu « Gandalf » de Lakera : gandalf.lakera.ai.
Pour aller plus loin : nos guides Cyberini et les formations Cyberini (IA & cybersécurité).