# 신뢰

금융 AI 시스템의 신뢰성, 보정 및 환각

8개 게시물 [모든 태그 보기](https://beancount.io/ko/bean-labs/research-logs/tags) [모든 게시물로 돌아가기](https://beancount.io/ko/bean-labs/research-logs)

2026년 7월 9일 약 5분

## [LLM의 신뢰도와 캘리브레이션: 연구 결과가 실제로 보여주는 것에 대한 서베이](https://beancount.io/ko/bean-labs/research-logs/2026/07/09/confidence-estimation-calibration-llms-survey)

GPT-4의 언어화 신뢰도는 AUROC 약 62.7%로 거의 무작위 수준이다. 불확실성을 다루는 금융 에이전트에는 더 나은 캘리브레이션이 필요하다.

Mike Thrift

llm ai machine-learning

2026년 7월 1일 약 5분

## [LLM 에이전트를 위한 불확실성 기반 위임: 소형 모델에서 대형 모델로 전환하는 시점](https://beancount.io/ko/bean-labs/research-logs/2026/07/01/redact-uncertainty-aware-deferral-llm-agents)

ReDAct는 퍼플렉서티가 불확실성을 알릴 때만 소형 모델에서 대형 모델로 지연시켜, 에이전트 워크플로에서 동일 정확도로 비용을 64% 절감합니다.

Mike Thrift

ai llm automation

2026년 6월 5일 약 5분

## [LLM 에이전트를 위한 검증 가능한 안전한 도구 사용: STPA와 MCP의 만남](https://beancount.io/ko/bean-labs/research-logs/2026/06/05/verifiably-safe-tool-use-llm-agents-stpa-mcp)

STPA와 역량 강화 MCP는 LLM 도구 사용에 대한 형식적 안전 명세를 산출하며, Alloy는 캘린더 사례 연구에서 안전하지 않은 흐름이 없음을 증명한다.

Mike Thrift

ai llm security

2026년 5월 29일 약 5분

## [AGrail: 작업 전반에 걸쳐 학습하는 LLM 에이전트를 위한 적응형 안전 가드레일](https://beancount.io/ko/bean-labs/research-logs/2026/05/29/agrail-lifelong-agent-guardrail-adaptive-safety-detection)

AGrail의 두 LLM 가드레일은 Safe-OS에서 프롬프트 주입 공격 성공률을 0%로 낮추면서 정상 에이전트 행동의 95.6%를 보존한다.

Mike Thrift

ai llm security

2026년 5월 28일 약 5분

## [ShieldAgent: LLM 에이전트를 위한 검증 가능한 안전 정책 추론](https://beancount.io/ko/bean-labs/research-logs/2026/05/28/shieldagent-verifiable-safety-policy-reasoning-llm-agents)

ShieldAgent는 LLM 가드레일 대신 확률적 규칙 회로를 사용해 API 호출을 64.7% 줄이면서 에이전트 공격에서 90.4% 정확도를 기록한다.

Mike Thrift

ai llm machine-learning

2026년 5월 25일 약 5분

## [GuardAgent: 코드 실행을 통한 LLM 에이전트의 결정론적 안전 강제](https://beancount.io/ko/bean-labs/research-logs/2026/05/25/guardagent-safeguard-llm-agents-guard-agent-knowledge-enabled-reasoning)

GuardAgent는 Python 코드를 실행해 LLM 에이전트 정책을 시행하여 작업 실패 없이 98.7% 정확도를 기록한 반면, 프롬프트 규칙은 81%에 최대 71% 실패율을 보였다.

Mike Thrift

ai llm automation

2026년 4월 28일 약 5분

## [자기 수정: GSM8K에서 GPT-4 95.5%→91.5% 하락](https://beancount.io/ko/bean-labs/research-logs/2026/04/28/llms-cannot-self-correct-reasoning-yet)

Huang et al. (ICLR 2024): 내재적 자기 수정은 GSM8K에서 GPT-4를 95.5%에서 91.5%로 떨어뜨림—원장 에이전트는 자체 검토가 아닌 외부 검증자가 필요함.

Mike Thrift

llm ai machine-learning

2026년 4월 19일 약 5분

## [PHANTOM (NeurIPS 2025): 금융 문서에서의 LLM 환각 탐지 측정](https://beancount.io/ko/bean-labs/research-logs/2026/04/19/phantom-hallucination-detection-financial-long-context)

PHANTOM(NeurIPS 2025)은 실제 SEC 공시에서 LLM 환각 탐지를 측정한다. Qwen3-30B는 F1=0.882로 앞서지만, 7B 모델은 거의 무작위로 추측한다.

Mike Thrift

llm ai machine-learning

[무료로 시작하기→](https://beancount.io/sign-up/?next=%2Fledger%2F) [문서](https://beancount.io/ko/docs)

## Where to look next

- [Sitemap](https://beancount.io/sitemap.xml) - all pages with hreflang alternates
- [LLMs index](https://beancount.io/llms.txt) - curated links for AI agents (also /llms-full.txt for full docs)
- [Documentation](https://beancount.io/docs) - every doc is also available as text/markdown via .md suffix or Accept negotiation
- [REST API reference](https://beancount.io/docs/api-reference) - interactive endpoints, schemas, authentication, and code samples
- [OpenAPI spec](https://beancount.io/openapi.json) - OpenAPI 3.1 spec for this website's public content endpoints; the product contract for ledger operations is at https://beancount.io/api-gateway/v1/openapi.json
- [GraphQL](https://beancount.io/graphql) - public, read-only content API over the blog and research logs (no credentials, no ledger data): 12 query fields over 23 types
- [MCP server](https://beancount.io/mcp) - Model Context Protocol at https://beancount.io/api-gateway/mcp
