AIの使用量が増える本当の理由——コンテキストの捨て方

こんにちは、コマルです。AIを仕事で使い始めると、わりと早い段階でこの壁にぶつかります。「上限に達しました」「今月の使用量が思ったより多い」——やっている作業は先月と変わらないのに、使用量だけが増えていく。

原因は、たいてい作業の量ではありません。AIに毎回どれだけの文章を渡しているかです。ここは意識するかどうかで数倍変わるところなのに、あまり語られません。今日はその仕組みと、実際にコマルが使っている「捨てる基準」を、物知り猫のタイガーと好奇心旺盛なマルの会話で整理します。

マル

ねえタイガー、AIの使用量って、たくさん質問したら増えるんでしょ？回数の問題じゃないの？

タイガー

それが、回数よりも1回あたりに渡している文章の量のほうが効くんだ。同じ1回でも、重い1回と軽い1回があるんだよ。

1. 使用量は「作業の量」ではなく「渡した文章の量」で決まる

AIは、こちらが送った文章を全部読んでから答えを返します。このとき数えられているのは、送った文章と、返ってきた文章の両方です。

マル

えっ、AIが答えた分まで数えられてるの？

タイガー

そう。だから「長々と説明して」と頼むと、その分だけ増える。でもね、たいていの人が驚くのはそこじゃないんだ。いちばん大きいのは、自分が書いた覚えのない部分——会話履歴だよ。

ここが直感とズレるところです。多くの人は「短い質問をしたから軽いはず」と思っています。でも実際には、その質問の前に積み上がった会話がまるごと一緒に送られていることがほとんどです。

2. 増える犯人は、毎回積み上がる会話履歴

AIは、前回の話をそのまま覚えているわけではありません。「記憶」をうたう機能を持つサービスもありますが、あれも別に保存しておいた情報を毎回渡し直している仕組みです。同じ会話を続けているように見えるのは、毎回、それまでのやりとりを全部読み直させているからです。この「毎回渡している一式」を、コンテキスト（＝文脈）と呼びます。

マル

じゃあ、長く話せば話すほど、1回が重くなっていくってこと？

タイガー

そういうこと。しかも厄介なのは、もう終わった話も一緒に運ばれ続けるところ。午前中に片づけた別件の相談が、午後の質問にもずっとくっついてくるんだ。

マル

それ、意味あるの……？

タイガー

ほとんどの場合、意味がない。むしろ答えの質まで落ちることがある。関係ない話が混ざると、AIはどれが今の本題か分からなくなるからね。

ここが大事なところです。文脈を減らすのは、単に節約のためではありません。関係ない情報を渡さないほうが、返ってくる答えも良くなる。節約と品質が同じ方向を向いている、めずらしい種類の改善です。

3. 捨てる基準——3つだけ

では何を捨てればいいのか。コマルが実際に使っている判断は、3つに絞れます。

① 用件が変わったら、会話を分ける

いちばん効くのがこれです。「さっきの件は終わった」と思ったら、新しい会話を始める。それだけで、積み上がった履歴をまるごと置いていけます。

マル

でも、また最初から説明するの面倒じゃない？

タイガー

そこは前提だけ書いた短いメモを用意しておくといいよ。「うちはこういう仕事をしていて、この文書はこういう相手に出す」——これを毎回貼るほうが、20往復ぶんの履歴を運ぶより、ずっと軽くて正確なんだ。

② 資料は「必要な章だけ」渡す

長い資料を丸ごと貼りつけたくなりますが、たいていは一部しか使いません。先に自分で読む範囲を決めてから渡すと、量は大きく減ります。

マル

どこが必要かは、AIに探してもらったほうが早くない？

タイガー

それも一つの手だけど、探させるにも全文を渡すことになるからね。同じ資料を何度も使うなら、最初の1回で要点を書き出してもらって、以降はその要約を渡すほうが賢いよ。

③ 長くなった会話は、要点を書き出して引き継ぐ

どうしても長引く相談は、途中で「ここまでの決定事項を箇条書きにして」と頼み、その箇条書きを持って新しい会話を始めます。履歴そのものではなく、履歴から絞った結論だけを持ち越すわけです。

4. 逆に、捨ててはいけないもの

節約に振りすぎると、今度は答えの質が落ちます。削ってはいけないものもはっきりしています。

• 前提——誰に向けたものか、どんな商売か。ここを削ると、一般論しか返ってきません
• 制約——使ってはいけない言い回し、守るべきルール、文字数。削ると毎回直す羽目になります
• 判断の基準——何をもって良しとするか。削ると「それらしいけど違う」が量産されます

マル

つまり、過程は捨てていいけど、ルールは捨てちゃダメってことだね。

タイガー

きれいにまとまったね。過程は捨てる、前提は残す。この一言で足りるよ。やりとりの経緯は次の相談に要らないけど、「うちはこういう決め方をする」は毎回要るからね。

短いメモにまとめて毎回貼る形にしておくと、会話を切り替えるハードルも下がります。この「頼み方を型にして残す」という発想は、AIへの「任せ方」を設計するでも書いた考え方と同じものです。

まとめ

• AIの使用量は作業の量ではなく、毎回渡している文章の総量で決まる
• いちばん大きいのは会話履歴。長く続けるほど1回が重くなる
• 減らし方は3つ——用件で会話を分ける／資料は必要な章だけ／決定事項だけ持ち越す
• 捨てるのは過程、残すのは前提・制約・判断の基準
• 文脈を絞ると、使用量が減るだけでなく答えの質も上がる

これは小さな工夫に見えて、毎日AIを使う人ほど効いてきます。コマル自身、仕事のほとんどをAIと分担して回しているので、この「渡しすぎない」判断は日常的にやっていることです。その全体像はAIで分身を持つに書きました。まだAIを使い始めたばかりなら、中小企業のAI活用、何から始めればいい？から読むのがおすすめです。社内で使うときのルールづくりは小さな会社の生成AI利用ルールにひな形を置いています。

30分無料相談では、「うちの使い方だと、どこが無駄になっていそうか」を実際の作業に当てて一緒に見ることもできます。「使ってはいるけど、これで合っているのか分からない」という段階でこそ、お気軽にどうぞ。

30分無料相談を申し込む

この記事は、みなさんの“困る”を解決する猫の手「コマル」がお届けしました。 「うちの場合はどうなる？」は 30分無料相談 でどうぞ。