ChatGPT에 세금 질문을 입력하면, 답변은 즉시, 자신만만하게, 마치 IRS 간행물에서 나온 것처럼 정돈된 형식으로 돌아옵니다. 그럴듯하게 들립니다. 문제는 "그럴듯하게 들리는 것"과 "실제로 맞는 것"이 같지 않다는 점이며, NerdWallet이 2026년에 ChatGPT, Gemini, Perplexity를 대상으로 실제 세금 시나리오를 놓고 체계적인 정면 비교 테스트를 진행했을 때, 이 둘 사이의 간극이 금세 드러났습니다.
이번 신고 시즌에 세금 질문을 챗봇에 의존할지 고민하는 소상공인 사업주에게는 이 간극이 중요합니다. 이번 테스트가 실제로 밝혀낸 내용, AI가 잘 버티는 지점과 조용히 무너지는 지점, 그리고 환각 답변이 돈으로 이어지지 않도록 AI를 활용하는 방법을 살펴보겠습니다.
테스트 방식: 단순 질문 vs. 개인 맞춤형 조언
NerdWallet 리서치팀은 ChatGPT, Gemini, Perplexity 각각에 일곱 개의 질문을 던져 총 63개의 채팅 기록을 만들었습니다. 이 중 세 질문은 IRS 등록 대리인(enrolled agent) 모의고사에서 그대로 가져온 것으로, 객관적으로 하나의 정답이 있는 유형의 질문이었습니다. 나머지 네 질문은 가상의 신고자를 중심으로 구성된 개방형 시나리오로, 각 챗봇이 특정 재무 상황에 맞춰 조언을 얼마나 잘 개인화할 수 있는지를 테스트하도록 설계되었습니다.
결과의 차이는 뚜렷했습니다. 모의고사 형식의 질문에서는 세 챗봇 모두 좋은 성적을 냈고, 객관식 형태의 문제는 거의 만점에 가까웠습니다. 이는 AI가 잘하는 유형의 질문입니다: 문서화된 답이 있는 제한된 사실이고, 명확하게 표현되어 있으며, 어떤 세금 연도나 어떤 신고자의 상황이 적용되는지에 대한 모호함이 없기 때문입니다.
개방형의 개인 맞춤형 질문은 이야기가 달랐습니다. 바로 이 지점에서 챗봇들은 실제 사업주에게 중요한 영향을 미칠 만한 실수를 저지르기 시작했습니다.
- 표준공제액 오류 — 한 테스트 사례에서는 거의 $3,000 가까이 차이가 났습니다
- 자격이 없는 전기차 세액공제 관련 허위 주장 — 자격이 안 되는 신고자에게 해당 공제를 받을 수 있다고 답함
- 잘못된 신고 주(州) 추천 — 신고자의 대학 소재 주와 근무 주를 혼동한 사례 포함
- 일관성 없는 답변 — 동일한 가상 프로필에 대해 어떤 챗봇(또는 어떤 실행)이 답했는지에 따라 서로 다른 세무 소프트웨어를 추천
- 날조된 신상 정보 가정 — 실제로는 사실이 아닌 내용을 이전 채팅 기록에서 가져와 전제로 삼음
이런 실수들 중 어느 것도 유보 표현이나 경고와 함께 제시되지 않았습니다. 연구진의 표현을 빌리면, 답변은 오직 얼마나 자신 있게 전달되느냐에 따라 "그럴듯하게 들릴 수" 있을 뿐이며 — 말투가 바뀐다고 해서 그 안의 숫자가 맞는지 여부가 달라지는 것은 아닙니다.
일회성 발견이 아니다
NerdWallet의 결과는 연구자들이 한 해 내내 기록해 온 더 큰 패턴과 일치합니다. 로욜라 대학교 시카고(Loyola University Chicago)의 한 연구에 따르면 챗봇은 단순한 세금 질문에도 3분의 2의 확률로 틀린 답을 내놓았고, 최첨단 모델조차 단순화한 테스트 사례에서 연방 소득세 신고서를 정확하게 계산한 비율이 3분의 1에도 미치지 못했습니다. 세무 전문가들은 이와 별개로, K-1 및 1099 소득, 연방 규정과 다른 주(州) 규정, 그리고 최근 세법 개정과 관련된 2026년 특유의 조항에서 AI의 실수를 지적해 왔습니다 — 바로 소상공인 사업주가 물어볼 가능성이 높은 유형의 세부 사항입니다.
이로 인한 금전적 여파는 이미 현실에서 나타나고 있습니다. 영국의 회계사 및 부기 담당자를 대상으로 한 설문조사에서 절반의 회사가 고객이 AI가 생성한 세금 또는 재무 조언으로 인해 추적 가능한 직접적인 금전적 손실 — 과오납, 놓친 공제, 벌금 — 을 입은 사례를 본 적이 있다고 답했습니다. 이는 가상의 위험이 아니라, 일부 소상공인이 이미 감당하고 있는 현재 진행형의 비용입니다.
AI가 유독 세금 질문에서 고전하는 이유
세금 조언은 대형 언어 모델이 답을 생성하는 방식과 궁합이 좋지 않습니다. 최첨단 모델조차 계속 발목을 잡히는 데는 몇 가지 이유가 있습니다.
세금 규정은 관할권이 겹겹이 쌓여 있습니다. 연방, 주, 때로는 지방 규정이 서로 얽혀 있으며, 주로 연방 수준의 콘텐츠로 학습된 챗봇은 질문이 주(州)별 세부 사항에 좌우되는 경우에도 연방 차원의 답으로 기본 설정되는 경향이 있습니다 — 테스트에서 "잘못된 주" 오류가 발생한 것도 정확히 이런 이유 때문입니다.
정답은 모델이 신뢰성 있게 추적하지 못하는 사실들에 좌우됩니다. 1인 신고자의 공제, 세액공제 자격, 또는 안전한 신고 주(州)는 대화 전체에 흩어져 있는 세부 정보에 따라 달라집니다. 모델이 학습 데이터에서 깔끔한 사실 하나를 꺼내오는 대신, 귀하에 관한 여러 사실을 한꺼번에 머릿속에 담아 두어야 하는 순간, 정확도는 떨어집니다.
자신감은 정확성에 맞춰 조정되지 않습니다. 이런 모델들은 불확실성을 표시하도록 만들어진 것이 아니라, 유창하고 완결된 것처럼 들리는 답변을 만들어내도록 만들어졌습니다. 표준공제에 대한 틀린 답도 맞는 답과 똑같이 권위 있게 읽힙니다.
전략적 조언은 위험을 증폭시킵니다. "마일리지 공제율이 얼마인가"에 대한 틀린 답은 잡아내기 쉽습니다. 하지만 다년간에 걸친 세금 전략 질문에 대한 틀린 답은 2~3년 후 세무조사를 받을 때까지 문제로 드러나지 않을 수 있습니다 — 그 시점에는 신속한 수정이었다면 들었을 비용보다 훨씬 더 큰 비용이 듭니다.
손해 보지 않고 세금 질문에 AI를 실제로 활용하는 방법
이는 AI 챗봇이 세금 문제에 쓸모없다는 뜻이 아닙니다 — 다만 많은 사용자가 생각하는 것보다 더 좁은 범위의 작업에 유용하다는 뜻입니다. 합리적이고 더 안전한 활용 방식은 다음과 같습니다.
-
최종 숫자를 얻기 위해서가 아니라 방향을 잡기 위해 AI를 사용하십시오. 개념을 설명해 달라거나, 어떤 양식이 어떤 용도인지 요약해 달라거나, 회계사에게 가져갈 질문 목록을 초안으로 작성해 달라고 요청하십시오. 실제 세금 부담액을 계산해 달라거나 어떤 공제를 받을 자격이 있는지 말해 달라고 요청하고 거기서 멈추지는 마십시오.
-
질문을 도구에 맞추십시오. 단순 사실 조회("Form 941의 마감일이 언제인가")는 위험이 낮습니다. 개인화된 판단이 필요한 질문("올해 S-corp 지위를 선택해야 할까")은 테스트에서 챗봇이 가장 자주 틀리는 것으로 나타난 바로 그 범주입니다 — 이런 질문은 전문가에게 맡기거나, 최소한 실제 IRS 지침과 교차 확인해야 합니다.
-
자신의 안전망을 파악하십시오. 세무 소프트웨어 안에서 AI 지원 출력을 사용하는 경우, 소프트웨어 자체의 오류 검사가 신고 전에 일부 실수를 잡아낼 수 있습니다. 재확인 없이 AI 조언을 곧바로 받아들인다면 안전망은 전혀 없는 셈입니다.
-
어떤 모델과 버전이 답했는지 확인하십시오. 정확도와 동작 방식은 모델 버전에 따라 달라지며, 다른 챗봇(또는 같은 챗봇의 이전 버전)을 사용한 친구의 스크린샷이 있다고 해서 귀하의 결과도 같을 것이라는 보장은 없습니다.
-
주(州)별 사항이나 세액공제 관련 내용은 반드시 원출처로 확인하십시오. 이는 테스트에서 가장 흔했던 두 가지 실패 범주였습니다. 챗봇이 특정 금액 기준, 공제액, 또는 세액공제 자격 규정을 언급할 때가 바로 IRS.gov나 해당 주(州)의 세무 당국 웹사이트를 열어 직접 확인해야 할 순간입니다.
가장 안전한 관점은 이렇습니다: AI는 개념을 이해하거나 좋은 질문을 준비하기 위해 IRS 간행물을 뒤지며 보냈을 시간을 아껴줄 수 있습니다. 하지만 신고서를 제출하기 전 마지막 단계가 되어서는 안 됩니다.
어떤 도구를 쓰든 재무 기록은 깔끔하게 유지하십시오
AI 챗봇을 가장 자주 넘어뜨리는 세금 질문들 — 공제 자격, 주(州)별 신고 세부 사항, 사업체 유형별 규정 — 은 애초에 귀하의 장부가 정확하고 잘 정리되어 있을 때 훨씬 더 쉽게 올바른 답을 얻을 수 있습니다. 이는 챗봇에게 묻든, 공인회계사(CPA)에게 묻든, 직접 처리하든 마찬가지입니다. Beancount.io는 재무 데이터에 대한 완전한 투명성을 제공하는 일반 텍스트 회계를 제공합니다 — 버전 관리되고 감사 가능하며, 이번 세금 시즌에 상담하는 어떤 자문가(사람이든 AI든)에게도 쉽게 넘겨줄 수 있습니다. 무료로 시작하기하여 근본부터 신뢰할 수 있는 숫자를 유지하십시오.