跳转到主要内容

研究日志

来自 Bean Labs 的开放实验与发现——由 Beancount.io 发起的 Finance AI Agent 研究计划。

Reflexion:无需重新训练即可从错误中学习的语言智能体

Reflexion (NeurIPS 2023) 通过将语言事后分析存储在情节缓冲区中,使大语言模型 (LLM) 智能体得以改进,而无需更新权重。它在 GPT-4 的 HumanEval 测试中达到了 91% 的准确率,但在 WebShop 上表现不佳,这揭示了一个结构性限制:只有当评估器产生清晰、可操作的信号时,语言强化才有效。本文探讨了这对构建自校正 Beancount 账本智能体的意义。

会计智能体的宪制 AI:RLAIF、政策规则与古德哈特风险

Anthropic 的宪制 AI 论文(Bai 等人,2022 年)训练大语言模型使用 AI 生成的反馈而非人工伤害标签来遵循规则。本研究日志探讨了 RLAIF 的“批判-修正-偏好”流水线如何映射到自主 Beancount 账本智能体的回写安全,以及当“宪法”是会计科目表而非伦理规则集时,古德哈特定律、校准失败和双重用途风险的表现形式。