生成AIとの会話が長くなると、最初の話を忘れる？

AIが一度に参照できる文章の量には上限がある

生成AIのClaudeを開発するAnthropic社は、Context windowsという説明ページで、コンテキストウィンドウを、AIが答えを作るときに参照できる文章のすべて（これから書く答えも含む）と説明しています。AIが前もって学習した大量の文章とは別のもので、作業中の記憶にあたるものだと書いています。

量はトークンという単位で数えます。トークンは、AIが文章を細かく区切って扱うときの単位です。同じページによると、Claudeのコンテキストウィンドウはモデルによって違い、大きいもので100万トークンです（2026年10月18日に確認）。ほかの会社の生成AIにも同じような上限がありますが、大きさや数え方はサービスごとに異なります。

会話を続けると、AIが毎回目を通す量が増えていく

同じページは、会話が進むと、こちらの発言とAIの答えがすべてコンテキストウィンドウに積み重なっていく様子を図で説明しています。AIは毎回、それまでのやりとり全体と新しい発言を合わせて読み、次の答えを書きます。書いた答えも、次の回には参照される側に加わります。

貼り付けた資料や画像、AIが調べ物をした結果も同じように数えられます。長い表や文書を何度も貼りながら1つの会話で作業を続けると、その分だけ毎回参照される量が増えます。

上限の内側でも、量が多いほど答えが粗くなりやすい

同じページは、コンテキストウィンドウが大きければ長く複雑な指示を扱えるとしたうえで、量が多いほど良いとは限らないと書いています。量が増えるにつれて答えの正確さや、中身を拾い上げる力が落ちることがあり、何を入れるかを選ぶことが空きの大きさと同じくらい大事だという説明です。

次は当社が想定した例で、実際の相談事例ではありません。店のSNS投稿を、同じ会話で何週間も頼み続けているとします。最初に「価格は税込で書く」と伝えていても、そのあいだに貼った写真の説明やメニュー表、頼み直しのやりとりが積み重なると、その条件が答えに反映されない回が出てくることがあります。

こうしたことが起きたときに、原因を1つに決めることはできません。ただ、会話が長いことは考えられる理由の一つなので、会話を分けて試し直す価値があります。

上限に近づいたときの扱いは、サービスによって違う

仕組みに組み込んで使うAPI（自社の仕組みから生成AIを呼び出す窓口）では、渡した文章だけで上限を超えると、答えが返らずにエラーになると説明されています。APIについては生成AIのAPIとは？で説明しています。

チャットの画面で使うサービスには、会話が上限に近づくと自動で調整する仕組みを持つものがあります。Anthropic社のヘルプページ（How do usage and length limits work?）は、コード実行の機能を有効にしている場合、上限に近づくと前半のメッセージを要約して会話を続けると説明しています。同じページには、自動の調整が働く長い会話は、利用量の上限を多く使うことも書かれています。

要約されたあとは、細かい条件が元の言葉どおりに残っているとは限りません。ほかのサービスでどう扱われるかは、それぞれのヘルプページで確かめてください。

会話を区切って、条件を渡し直す

ここからは、開発元の説明をもとに当社が整理した使い方です。特別な設定は要りません。

長い資料は、資料を先に、質問を後に書く

Anthropic社の頼み方の手引き（Prompting best practices）は、長い文書を渡すときは文書を指示の上のほうに置き、質問や指示を最後に書くよう勧めています。試験では、複数の文書を渡すような複雑な場合に、質問を最後に置くと答えの質が最大3割ほど上がったと書かれています。

同じ手引きは、長い文書を扱う作業では、先に関係する箇所を引用させてから本題に取りかからせる方法も勧めています。関係のない部分に引きずられにくくなり、どこを根拠にしたかも確かめられます。この手引きはClaude向けのもので、ほかの生成AIで同じ結果になるとは限りません。

引用させたあとの確かめ方や、答えに間違いが混ざる理由は生成AIの答えが間違っているのはなぜ？で説明しています。

いま長くなっている会話で試す

いちばん長く続いている会話を1つ選び、その会話で守ってほしい条件を数行に書き出します。新しい会話の最初にそのメモを貼り、いつもと同じ頼みごとをして、答えを前の会話と比べてみてください。

社内の規程や商品資料のように、量が多くて毎回は貼りきれない資料をもとに答えさせたい場合は、質問に関係する部分だけを探して渡す仕組みがあります。社内の資料をもとに答えるAIとは？で紹介しています。