Uso Sicuro e Verificabile degli Strumenti per Agenti LLM: STPA incontra MCP
STPA con MCP potenziato produce specifiche di sicurezza formali per l'uso di strumenti LLM: Alloy prova l'assenza di flussi non sicuri in un caso di calendario.
#security
Sicurezza
Ricerca su sicurezza e guardrail per agenti IA in contesti finanziari
AGrail: Barriere di Sicurezza Adattive per Agenti LLM che Imparano tra Attività Diverse
Il guardrail a due LLM di AGrail riduce al 0% il successo degli attacchi di prompt injection preservando il 95,6% delle azioni benefiche degli agenti su Safe-OS.
ShieldAgent: Ragionamento Verificabile sulla Sicurezza delle Policy per Agenti LLM
ShieldAgent raggiunge il 90,4% di accuratezza sugli attacchi agli agenti con il 64,7% di chiamate API in meno usando circuiti di regole probabilistiche invece di guardrail LLM.
GuardAgent: Applicazione Deterministica della Sicurezza per Agenti LLM tramite Esecuzione di Codice
GuardAgent applica le policy degli agenti LLM eseguendo codice Python: 98,7% di accuratezza senza task falliti, contro l'81% e fino al 71% di errori con le regole nei prompt.