#security
Recherche sur la sûreté, la sécurité et les garde-fous pour les agents IA dans les contextes financiers
STPA avec MCP enrichi en capacités produit des spécifications de sûreté formelles pour l'usage d'outils LLM ; Alloy prouve l'absence de flux dangereux dans un cas d'agenda.
Le garde-fou à deux LLM d'AGrail réduit à 0 % la réussite des attaques par injection de prompt tout en préservant 95,6 % des actions d'agent bénignes sur Safe-OS.
ShieldAgent atteint 90,4 % de précision face aux attaques d'agents avec 64,7 % d'appels API en moins, via des circuits de règles probabilistes au lieu de garde-fous LLM.
GuardAgent applique les politiques des agents LLM via du code Python : 98,7 % de précision sans échec de tâche, contre 81 % et jusqu'à 71 % d'échecs pour les règles en prompt.
