LLM 智能体可验证的安全工具使用：当 STPA 遇上 MCP
STPA 加上能力增强的 MCP 为 LLM 工具使用产出形式化安全规范，并用 Alloy 在一个日历案例中证明不存在不安全流程。
#security
安全
AGrail：跨任务学习的 LLM 智能体自适应安全护栏
AGrail 的双 LLM 护栏将提示注入攻击成功率降至 0%，同时在 Safe-OS 上保留 95.6% 的正常智能体操作。
ShieldAgent：LLM 智能体的可验证安全策略推理
ShieldAgent 用概率规则电路替代 LLM 护栏，对智能体攻击达 90.4% 准确率，API 调用减少 64.7%。
GuardAgent: Deterministic Safety Enforcement for LLM Agents via Code Execution
GuardAgent enforces LLM agent policies by running Python code, hitting 98.7% accuracy with no task failures, versus 81% and up to 71% failure for prompt rules.