#trust
Betrouwbaarheid, kalibratie en hallucinatie in financiële AI-systemen
Verbalized GPT-4-vertrouwen haalt slechts ~62,7% AUROC, nauwelijks boven toeval. Onzekerheidsbewuste finance-agenten hebben betere kalibratie nodig dan dat.
ReDAct stelt uit van een klein naar een groot model alleen wanneer perplexity onzekerheid signaleert: 64% lagere kosten bij gelijke nauwkeurigheid voor agents.
STPA plus capability-enhanced MCP levert formele veiligheidsspecificaties voor LLM-toolgebruik; Alloy bewijst geen onveilige flows in een kalender-casestudy.
De twee-LLM-guardrail van AGrail verlaagt het succes van prompt-injectieaanvallen naar 0% terwijl 95,6% van goedaardige agentacties op Safe-OS behouden blijft.
ShieldAgent bereikt 90,4% nauwkeurigheid bij agent-aanvallen met 64,7% minder API-calls door probabilistische regelcircuits te gebruiken in plaats van LLM-guardrails.
GuardAgent dwingt beleid voor LLM-agents af door Python-code uit te voeren, met 98,7% nauwkeurigheid zonder taakfouten, tegen 81% en tot 71% fouten bij promptregels.
Huang et al. (ICLR 2024): intrinsieke zelfcorrectie verlaagt GPT-4 van 95,5% naar 91,5% op GSM8K—ledger-agenten hebben externe validators nodig, geen zelfbeoordeling.
PHANTOM (NeurIPS 2025) meet LLM-hallucinatiedetectie op echte SEC-filings. Qwen3-30B leidt met F1=0,882, maar 7B-modellen gokken bijna willekeurig.
