正直に言います。税理士の私でもAIに騙されました

正直に言います。私は税理士なのに、AIの出した回答をそのまま信じて、危うくクライアントに間違った情報を伝えるところでした。

しかも、その回答は「所得税法第○条に基づき」と法令根拠まで付いていて、見た目は完璧だったんです。

あの瞬間の背筋の冷たさ、今でも忘れられません。

【常識】「AIは間違えることもある」と分かっているはずなのに

AIを使い始めた頃、私も「ハルシネーションには気をつけよう」と思っていました。みなさんもそうですよね。

でも、使い続けていると感覚が麻痺してくるんです。

ChatGPTやClaudeに税法の質問をすると、驚くほど自然な日本語で、もっともらしい回答が返ってきます。条文番号まで引用してくれて、「これは正しいだろう」と思ってしまう。

実際、X上でバズった税理士フィクションでも、AIが元帳と決算書の数字を「勝手に合わせて」しまい、表面上は辻褄が合っているのに根本的に間違っている、という話が2万いいね以上を集めていました。

つまり、AIが怖いのは「明らかな間違い」じゃないんです。「正しそうに見える間違い」なんです。

【現実】税理士の私が実際に騙されたケース

私のケースを具体的に書きます。

ある日、クライアントの特殊な控除要件についてClaudeに質問しました。返ってきた回答は、条文番号付き、判例の引用付き、適用条件の整理まで完璧に見えるものでした。

でも念のため、e-Govの法令検索で一次情報を確認したんです。そうしたら、引用されていた条文番号が存在しなかった。

AIが自信満々に「所得税法第○条第○項」と言い切った条文が、実際の法律にはなかったんです。

これ、確認しなかったらどうなっていたか。考えるだけで怖くなりました。

実際、ある税理士の方がGemini・Claude・ChatGPTで仕訳や源泉税率をチェックしたところ、3件の誤りを発見しています。別の方はfreee MCP×Claude Codeで法人決算チェックをして、B/S科目誤りや源泉税の誤分類が12件も出てきたそうです。

「AIは間違える」と頭では分かっていても、あの自然な回答を前にすると、つい信じてしまう。これが本当の怖さなんです。

【じゃあどうする？】AIに騙されないための3つの習慣

でも、だからといってAIを使わない選択肢はもうありません。

税理士事務所の生成AI導入率は2024年の8%から2025年には21%へと約3倍に増加。士業全体のAI業務利用率は66%に達しています。AI研究会に参加する事務所は2026年4月時点で856事務所にのぼります。

使わないリスクのほうが、もう大きいんです。

だから大事なのは、「騙されない使い方」を身につけること。私が痛い目に遭ってから徹底している3つの習慣を共有します。

① 一次情報の確認を「儀式」にする

AIが法令や数字を出してきたら、必ず一次情報にあたります。e-Gov法令検索、国税庁サイト、通達原文。

これを「余裕があったらやる」ではなく、「AIを使ったら必ずやる」という儀式にしています。面倒ですが、1回の確認に5分もかかりません。

あの条文番号が存在しなかった経験があるから、もう省略できません。

② AIは「アシスタント」として使い、最終判断は自分で

ChatGPTやClaudeは、叩き台を作ってもらう相手です。最終回答を出す存在ではありません。

具体的には、顧客情報を伏せた上で「この仕訳の考え方を説明して」と聞く使い方がおすすめです。答えをもらうのではなく、考えるプロセスを補助してもらう感覚ですね。

X上でも「アシスタントとして活用＋人間レビュー必須」という声が主流になっています。

③ 専用ツールと汎用AIを使い分ける

最近は税務に特化したAIツールが出てきています。

• ZEILY（ゼイリー）：税理士専用AIエージェント。最新法令・判例を参照し、憶測を排除した提案書作成が可能
• FOX：e-Gov法令API連携で「所得税法第○条」と法令根拠付きの回答を返してくれる税務AIチャット
• Tax AI Assistant（PwC Japan）：日本税制に特化した生成AI。Harvey基盤をカスタマイズしたもの

汎用AIのChatGPTやClaudeは万能ですが、法令の正確性では専用ツールに軍配が上がります。メール下書きや思考整理は汎用AI、法令リサーチは専用ツール、という使い分けが安全です。

【本当に伝えたいこと】騙されたから、もっと上手に使えるようになった

あの失敗がなかったら、私は今もAIの回答をなんとなく信じていたと思います。

騙された経験があるからこそ、確認する習慣ができました。そして確認する習慣ができたからこそ、AIをもっと大胆に使えるようになりました。

税法リサーチは50〜70%の時間削減、文書作成は60〜80%の削減という数字が出ています。税務相談も1件1時間かかっていたものが30分に短縮できている事務所があります。

この恩恵を受けるために必要なのは、「AIを疑わない信頼」ではなく、「AIを疑った上での信頼」です。

AIに騙されることは恥ずかしいことじゃない。騙されたまま気づかないことが、本当に怖いことです。

私も最初は「税理士なのにAIに騙されるなんて」と落ち込みました。でも今は、あの経験があったから「正しく怖がる」ことができています。

みなさんも、AIを使っていて「あれ？」と思った瞬間を大切にしてください。その違和感が、あなたの専門性の証拠です。

この記事が参考になったら、スキで教えてもらえると嬉しいです！

今回も最後まで読んでいただき、ありがとうございました！
ではまた、次のnoteでお会いしましょう💁🏻‍♀️