ChatGPTの答えをそのまま出すとどんなリスクがあるか

こんにちは、コマルです。先月、こんな相談がありました。「会社ブログのコラムを、ChatGPTの回答そのまま公開したら、読者から『どこかで読んだことのある文章に似ている』と指摘されてしまって……」というものです。忙しさに追われて公開を急いだ1本のコラムが、著作権と誤情報という2つのリスクを同時に抱えていた話です。

「これは助かる」——順調に見えていた数か月

その会社は、総務担当が兼任で会社ブログを月2回更新していました。書く時間が取れず更新が止まりがちだったところに、ChatGPTを使い始めてから状況が一変します。テーマを伝えれば数分で下書きが返ってくる。文章の体裁も整っている。総務担当は見出しと誤字だけ直して、そのまま公開する運用に落ち着きました。

マル

それって別に、悪いことじゃないよね？ 早く書けるようになったんだから。

タイガー

スピードが上がったこと自体は問題ないよ。問題は、「速く書けた文章を、そのまま出していいか」を誰も確認していなかったことなんだ。

読者から届いた、1通のメール

数か月後、あるコラムを公開した翌週に、業界の知り合いから連絡が届きました。「そちらのブログの一段落、〇〇さんのブログ記事とほとんど同じ言い回しですよ」という指摘です。総務担当は自分で書いていないので、似ているかどうか気づきようがありません。慌てて元のコラムと指摘された記事を並べて読み比べると、確かに構成と言い回しが強く重なる一段落がありました。

マル

えっ、自分で書いてないのに、そんなに似ちゃうことあるの？

タイガー

あるんだ。ChatGPTは既存の大量の文章を学習して答えを作っている。指示の仕方や話題によっては、学習した文章に近い言い回しがそのまま出てくることがある。書いた本人が気づけないのが、この問題のやっかいなところなんだ。

調べてみると、もうひとつの問題も見つかった

心配になった総務担当は、コラム全体を読み返しました。すると別の一文に「〇〇省の調査によると、中小企業の8割が……」という統計が引用されていることに気づきます。裏を取ろうと検索しても、その調査は見つかりませんでした。ChatGPTがそれらしく作り出した、存在しない出典だったのです。

マル

似てる文章と、ウソの統計……ひとつのコラムに2つも問題があったの？

タイガー

同時に起きやすいんだ。似た言い回しが出てくるのも、存在しない出典を作ってしまう（ハルシネーションと呼ばれる）のも、原因は同じ。AIは「正しさ」ではなく「それらしさ」を優先して文章を組み立てているからなんだ。

似た文章は、法律上どうなるのか

文化庁が2024年3月に公表した「AIと著作権に関する考え方について」では、AIが作った文章が既存の著作物に似ていた場合の著作権侵害（著作権を持つ人に無断で似た文章を使うこと）の判断を、書いた人が元の著作物を知っていたかどうかで3つに分けています。

1. 元の著作物を知っていて、それに似せるよう指示していた場合——侵害が成立しうる
2. 元の著作物は知らなかったが、AIがその著作物を学習に使っていた場合——「客観的に接する機会があった」とみなされ、通常は侵害が成立しうる
3. 元の著作物を知らず、AIの学習にも使われていなかった場合——偶然の一致として、侵害は成立しない

マル

今回のコラムは、どのパターンにあたるの？

タイガー

それが困ったところで、総務担当には確かめようがないんだ。ChatGPTがどの文章を学習に使ったかは公開されていない。「知らなかったから大丈夫」と言い切れる材料が、そもそも手元にないんだよ。

マル

じゃあ、後から「知りませんでした」って言っても、意味ないの？

タイガー

意味がないわけじゃないけど、証明できるかどうかが問題なんだ。事前に検索して確かめた記録が残っていれば、「ちゃんと調べたうえで公開した」という材料になる。何も残っていないと、説明のしようがなくなるんだよ。

ハルシネーションは、どこで見抜けたか

後から見直すと、今回の統計にはサインがありました。「〇〇省の調査によると」という言い方は具体的に見えて、実は出典の名前も年も書かれていません。数字も「8割」というキリのよい丸めた値でした。生成AIは検索して裏を取っているわけではなく、それらしい言葉のつながりを組み立てているだけなので、具体的なのに、肝心の名前や年が抜けている箇所ほど疑ったほうがいい、というのがComaruの見立てです。

マル

「それらしい」って、見た目じゃ分からなくない？

タイガー

分かりにくいよ。だからこそ、「出典を名指ししているのに、名前も年もない」を見つけたら反射的に検索するクセをつけるのが一番効くんだ。

どうすべきだったか——公開前にやること

Comaruが総務担当に伝えたのは、ChatGPTの回答を疑うことではなく、公開の手前に検証の一手間を挟むことでした。具体的には、公開前に文章の一部をそのまま検索エンジンに貼って、似た文章が既に存在しないか確かめる。数字や固有名詞が出てきたら、その出典を自分で検索して実在を確認する。この2つを、コラムを直す作業とは別工程として必ず挟むことにしました。

マル

それだけで、防げるものなの？

タイガー

完璧に防げるとは言わないよ。でも、検索して似た文章がすぐ出てくるようなら、それだけで公開は止められる。出典が見つからない数字も同じ。「出す前に1回検索する」だけで、今回のような事故のほとんどは手前で止まるんだ。

マル

それから、この会社はどうなったの？

タイガー

その後に公開した2本も、同じ手順で確かめてから出した。1本は出典が見つからず、その一文だけ削って公開したそうだよ。今のところ、同じような指摘は起きていない。

Comaruの実務ではこう検証している

Comaruが記事や提案書を作るときも、ChatGPTを含む生成AIの下書きをそのまま出すことはありません。固有名詞・数字・「〇〇によると」という出典表現が出てきたら、必ず一次情報を自分の目で確認してから使います。似た表現がないかも、書き出しの一段落程度は検索して確かめます。この記事自体も、文化庁の資料を実際に確認してから書いています。

マル

毎回それをやると、時間かかりそうだけど……。

タイガー

かかるよ。でも公開してから謝罪と修正に追われる時間よりは、ずっと短い。急いで出す1本より、確認してから出す1本のほうが、結局は早いんだ。

マル

うーん、頭では分かるけど……急いでるときほど、つい飛ばしたくなっちゃいそう。

タイガー

そこは正直、Comaruでも今なお気をつけているところだよ。慣れてきたころが、いちばん危ない。

まとめ：ChatGPTの回答は「下書き」として扱う

ChatGPTの回答は、正しさを保証してくれるものではありません。既存の文章に似た言い回しが出てくることもあれば、存在しない出典をそれらしく作り出すこともあります。今回の相談も、悪意があったわけではなく、「速く書けた文章を、そのまま出していいか」を誰も確認しなかっただけでした。

公開前に、似た文章がないかを検索し、数字や出典を自分の目で確かめる——この2つの一手間を挟むだけで、著作権と誤情報という2つのリスクは、そのほとんどを手前で止められます。ChatGPTの回答は完成品ではなく、確認前の下書きとして扱ってください。

入れてはいけない情報の線引きはAIに入れていい情報はどこまで？に、社内での最低限のルールづくりは小さな会社の生成AIルールにまとめています。もし公開後に情報漏洩に近い事態へ気づいたらAIに情報を入れてしまった、と気づいたら最初にやること、AI導入でよくあるつまずき方は中小企業のAI導入が失敗する5つの型を参考にしてください。

30分無料相談では、「うちのブログや提案書、AIの下書きをそのまま出しているけれど大丈夫か」を、実際の運用に合わせて一緒に確認できます。ヒヤリとした経験がある方は、お気軽にどうぞ。

参考（一次情報）：文化庁 AIと著作権について／文化審議会著作権分科会法制度小委員会「AIと著作権に関する考え方について」（PDF・令和6年3月15日）

※本記事は一般的な情報提供であり、法的助言ではありません。著作権侵害の成否は個別の事情によって判断が分かれるため、実際の対応は専門家にご確認ください。

この記事は、みなさんの“困る”を解決する猫の手「コマル」がお届けしました。 「うちの場合はどうなる？」は 30分無料相談 でどうぞ。