Verifizierbar sichere Tool-Nutzung für LLM-Agenten: STPA trifft auf MCP
STPA plus fähigkeitserweitertes MCP liefert formale Sicherheitsspezifikationen für LLM-Tool-Nutzung, mit Alloy-Beweis für keine unsicheren Flüsse in einer Kalender-Fallstudie.
#security
Sicherheit
Sicherheits-, Schutz- und Guardrail-Forschung für KI-Agenten im Finanzkontext
AGrail: Adaptive Sicherheits-Guardrails für LLM-Agenten mit aufgabenübergreifendem Lernen
AGrails Zwei-LLM-Guardrail senkt den Erfolg von Prompt-Injection-Angriffen auf 0% und bewahrt 95,6% gutartiger Agentenaktionen auf Safe-OS.
ShieldAgent: Verifizierbare Sicherheitsrichtlinien-Argumentation für LLM-Agenten
ShieldAgent erreicht 90,4 % Genauigkeit bei Agenten-Angriffen mit 64,7 % weniger API-Aufrufen durch probabilistische Regelkreise statt LLM-Guardrails.
GuardAgent: Deterministische Sicherheitsdurchsetzung für LLM-Agenten via Code-Ausführung
GuardAgent erzwingt LLM-Agenten-Richtlinien per Python-Code und erreicht 98,7 % Genauigkeit ohne Aufgabenfehler, gegenüber 81 % und bis zu 71 % Fehlern bei Prompt-Regeln.