ChatGPTが嘘をついた？間違いに気づく3分の確認手順

こんにちは、コマルです。「ChatGPTに教えてもらった内容を使ったら、実は間違っていた」——使い始めの頃、誰でも一度は冷やっとします。AIは悪気なく、もっともらしい間違いを言うことがあります。だから大事なのは、間違いをゼロにすることではなく、間違いに気づく手順を持っておくことです。今回は、仕事の書類に使う前の「3分の確認」を、猫のタイガーとマルと一緒に整理します。

本記事の内容は2026年10月時点のものです。

「嘘」ではなく「もっともらしい間違い」

マル

ねえタイガー、ChatGPTって、間違ったことも自信満々に言うって聞いたよ。それって嘘をつかれてるの？

タイガー

嘘をつく意図があるわけじゃないんだ。OpenAIは、こうした現象を「ハルシネーション」と呼んで、もっともらしいけれど事実と違う文章を、自信ありげに作ってしまうことだと説明している。

マル

ハルシネーション？　なにそれ？

タイガー

ごめん、言い換えるね。「AIの作り話」だよ。OpenAIは2025年9月の研究紹介で、新しいモデルでも減ってはいるけれど、まだ起こる、とはっきり書いている。つまり「たまに起きるもの」として付き合うのが正しいんだ。

OpenAIの利用規約にも、「出力は常に正確とは限らない」「事実の唯一の根拠として頼らない」「使う前に正確さを評価する」といった趣旨が書かれています。間違いが出るのは不具合ではなく、使う側が確かめる前提で作られた道具だということです。

3分の確認手順：見る場所は3つだけ

マル

全部の文章を疑ってたら、時間がかかっちゃうよ……

タイガー

だから「全部」は見ない。間違いが紛れやすい3か所だけを見るんだ。これなら3分で終わるよ。

（時間の目安は、Comaruが短い文章を確かめる場合の感覚で、決まりではありません。）

① 数字・日付は、元の資料と見比べる

タイガー

数字は、ChatGPTの答えを信じて照合するのではなく、元の資料のほうを開く。見積書でも、公式ページでも、自分の手元にある一次の資料と並べて見るんだ。

マル

元の資料が手元にない数字はどうするの？

タイガー

その数字は使わない、が基本。どうしても必要なら、次の②③で出どころを探す。出どころが見つからない数字は、書類に載せないほうが安全だよ。

② 固有名詞は、検索で実在を確かめる

会社名、法律の名前、製品名は、名前をそのままWebで検索します。公式サイトや公的機関のページが出てくれば実在、出てこなければ疑います。法律なら「法令名＋条文」で国の法令検索に当たるのが確実です。

マル

「それっぽい名前」を作っちゃうこともあるんだ。

タイガー

うん。実在しそうな名前ほど危ない。聞き覚えがあるから大丈夫、は理由にならないよ。

③ 出典は、ChatGPTが言ったURLを開いて確かめる

タイガー

「〜によると」と書いてあるなら、そのページを自分で開く。ChatGPTにWeb検索を使わせると、答えに出典のリンクが付くことがある。でもOpenAIのヘルプにも、出典は不完全だったり古かったり誤っていたりすることがあるから、開いて、その答えを本当に裏付けているか確かめるように、と書いてあるんだ。

マル

リンクが付いていたら、安心していいわけじゃないんだね。

タイガー

そう。リンクは「確かめる入口」だと思って。開いて、答えの文章と同じことがそこに書いてあるかを見るんだ。

ChatGPTに「自分で見直させる」一言

マル

ChatGPT本人に、間違ってないか聞くのはだめ？

タイガー

補助にはなるよ。たとえば「今の答えのうち、確信が持てない部分と、確認が必要な部分を挙げてください」と頼むと、怪しい箇所を絞りやすい。ただし、これで「間違いなし」にはならない。見直しも、同じAIがやっているからね。

マル

あくまで、確認の順番を決める手助けなんだね。

タイガー

もうひとつ。調べものなら、「分からないときは『分からない』と答えてください」と先に伝えておくといい。OpenAIの研究紹介でも、分からないときに推測で埋めず「分からない」と言うほうが望ましい、と説明されているよ。

使う前に、必ず人の目を入れる場面

次のものは、3分チェックでは足りません。必ず、詳しい人や元の担当者に見てもらってから使ってください。

• お客さんや取引先に出す書類（金額、契約、約束事が入るもの）
• 法律、税金、医療など、専門家の判断が要る内容
• 人事や評価など、特定の人に影響が出る判断

マル

そういうときは、ChatGPTを使っちゃだめなの？

タイガー

使っていいよ。ただしたたき台まで。最後の判断は人がする、という線を引いておけば大丈夫だよ。OpenAIの規約にも、人に関する重要な決定にAIの出力を使ってはいけない、という趣旨があるからね。

まとめ：疑うのではなく、3か所だけ確かめる

ChatGPTの間違いは、なくせません。だからこそ、数字・固有名詞・出典の3か所を、元の資料や検索で確かめる習慣が役に立ちます。3分で終わる手順なので、書類に使う前の最後の1ステップとして決めてしまいましょう。

「確かめるのが面倒で、結局使わなくなった」という声も聞きます。その場合は、まずChatGPTに何を聞く？仕事で最初に試す10の質問のように、自分で結果を判断できる作業から始めると、確認の負担が軽くなります。そのまま公開する文章の注意点はChatGPTの答えをそのまま出すとどんなリスクがあるかに、入力してよい情報の線引きはAIに入れていい情報はどこまで？にあります。

「社内でAIを使うときの確認ルールを、どう決めればいいか」といった相談は、30分無料相談で、実際の使い方に合わせて一緒に整理できます。

参考（一次情報）：OpenAI Why language models hallucinate（2025年9月）／OpenAI Terms of Use（Accuracyの項）／OpenAI Searching the web with ChatGPT

この記事は、みなさんの“困る”を解決する猫の手「コマル」がお届けしました。 「うちの場合はどうなる？」は 30分無料相談 でどうぞ。