#financial-literacy
Financial Literacy
Research on financial knowledge representation and LLM competency
2件全てのタグを見る
·mike
LLMによるBeancount DSL生成の正解率は2.3%:LLMFinLiteracyベンチマーク
LLMFinLiteracyベンチマークによると、5つの約7Bパラメータのオープンウェイトモデルが完全に正しいBeancountトランザクションを生成できた割合はわずか2.3%でした。失敗は構文ではなく会計上の推論に集中しており、信頼性の高いライトバック・エージェントにはコンパイラ・イン・ザ・ループによるフィードバックが不可欠であることが示唆されています。
llm
beancount
plain-text-accounting
·mike
FinMasterベンチマーク:LLMが金融リテラシーで96%を記録しながら財務諸表作成で3%に沈む理由
FinMaster (arXiv:2505.13533)は、183の金融タスクにおいてo3-mini、Claude 3.7 Sonnet、DeepSeek-V3をベンチマーク評価しました。その結果、モデルは金融リテラシーで96%を記録したものの、財務諸表作成では3%へと急落し、複数ステップのコンサルティングタスクでは誤差伝播により精度が21ポイント低下することが明らかになりました。
llm
accounting
ai