Démo
Écrivez un e-mail piégé : le détecteur montre quelles règles se déclenchent et quels outils sont refusés.
Chargement de la démonstration…
En bref
Collez un e-mail piégé et voyez quelles règles se déclenchent, quel score de risque en sort et quels outils l'agent aurait appelés. Changez la politique pour autoriser, demander ou refuser, puis comparez avec la version sans garde-fous. Le texte caché est montré, pas inventé.
Ce qu'on y voit
Écrivez un e-mail piégé : le détecteur montre quelles règles se déclenchent et quels outils sont refusés.
L'idée
Une injection de prompt est un texte comme un autre : on peut la détecter, montrer pourquoi, et refuser l'outil qu'elle visait.
La fabrication
Détecteur à règles et score (instructions cachées, Unicode invisible, liens sosies, demandes d'exfiltration), politique d'outils éditable, comparaison avec et sans garde-fous.
Sous le capot
4 points d'implémentationPile
- TypeScript strict
- React
- Expressions régulières
- Distance de Levenshtein
Fichiers
lib/sim/guard.tslib/sim/guard.check.tscomponents/demos/GardeFous.tsxcomponents/demos/GardeFous.module.css
Implémentation
- Sept familles de règles : instructions adressées à l'agent, exfiltration, lien sosie, caractères Unicode invisibles, HTML caché, urgence artificielle, usurpation.
- Score = somme des poids des règles déclenchées + 3 points par constat supplémentaire, plafonné à 100 ; niveaux : ≥ 70 critique, ≥ 40 élevé, ≥ 15 moyen, > 0 faible.
- Les domaines sont comparés aux marques connues par distance de Levenshtein sur un cœur normalisé (0→o, 1→l, 3→e, rn→m, vv→w), avec punycode, IP brute, raccourcisseurs et TLD rares.
- La politique par outil produit trois issues (exécuté, en attente, refusé) ; le mode sans garde-fous force tous les appels à exécuter. La vue humaine retire le HTML caché et les caractères invisibles, pas la détection.