
長く話していると、AIが前に伝えたことを踏まえていないように見える。新しいチャットでは、さっきの話が通じない。前者はAIが一度に読める量に限りがあるため、後者はチャットごとに読む材料が別になるために起きます。コンテキストとトークンの仕組みを、AIの「机の広さ」にたとえて、まんがの挿絵で説明します。
POINT
会話の中身についてAIが読めるのは、その会話の「机」に広げた分だけです。机には広さの上限があり、あふれそうになると、古いやり取りを要約したり、新しいチャットを勧めたりします(扱いはアプリによって違います)。新しいチャットは別の机なので、前の話はメモリなどの機能を使わない限り届きません。
2026年11月16日に各社の公式資料と論文を確認。机のたとえは説明のための一例です。上限の大きさや、あふれそうなときの扱いは製品やプランによって異なります。当社による再現実験は行っていません。
生成AIのチャットで長くやり取りしていると、前に伝えたことを、AIが踏まえていないように見えることがあります。新しいチャットを開いて「さっきの続きをお願い」と頼むと、何の話か分からないと返されることもあります。
AIが怠けているわけではありません。長い会話では、AIが返事を書くときに読める量に限りがあるからです。新しいチャットでは、そもそも前の会話が読む材料に入っていないからです。この記事では、その仕組みを、AIの机の広さにたとえて説明します。
「頭の中の知識」と「机の上にある紙」は別のもの
先に、2つのものを分けておきます。
- 学習で身についた知識:AIは、作られる段階で大量の文章を読み、言葉の使われ方を身につけています。これを学習(training)と呼びます。言葉の知識や一般的な事柄は、ここから来ています
- その会話で渡した文章:あなたがチャットに書いたことや、貼り付けた資料です。AIは返事を書くたびに、これを読み直します
この記事で扱う「忘れる」は、後のほうの話です。たとえるなら、学習で身についた知識はAIの頭の中にあるもの、会話で渡した文章はAIの机の上に広げた紙です。会話の文章が学習に使われるかどうかは、設定によって変わる別の話なので、AIに個人情報を入れると学習される? ChatGPT無料版でもできる「学習オフ」で説明しています。
机の広さ(コンテキストウィンドウ)

AIを、机に向かって仕事をする係だと考えてみます。あなたが何かを頼むと、その文章が1枚の紙になって、机の上に置かれます。AIは返事を書き、その返事も紙になって机に並びます。次にあなたが話しかけると、AIは机の上の紙を全部読み直してから、次の返事を書きます。
この、AIが返事を書くときに読める範囲を、コンテキストウィンドウ(context window)と呼びます。Anthropic の説明では、コンテキストウィンドウは、学習に使った大量のデータとは別の、AIの「作業用の記憶」に当たります。中には、あなたの発言だけでなく、AIの返事も入ります。会話が続くほど、机の上の紙は増えていきます。
そして、机の広さには上限があります。どこまで広いかは、AIのモデルによって違います。
たとえで説明しきれない点もあります。本物の机なら、紙は同じ大きさですが、実際の会話では、短いあいさつも長い資料も、量に応じた場所を取ります。その量の数え方が、次のトークンです。
紙の量の数え方(トークン)

机にどれだけ載っているかは、紙の枚数ではなく、AIの数え方で決まります。絵のように、AIが紙を小さなカードに切り分けて、カードの枚数で量を数えている、と考えてみてください。このカードに当たるかたまりをトークン(token)と呼びます。コンテキストウィンドウの大きさも、トークンの数で表します。
トークンは、単語のこともあれば、単語の一部や句読点のこともあります。OpenAI は、英語ではおよそ4文字で1トークンという目安を示しつつ、ほかの言語では文字とトークンの関係が変わると説明しています。Anthropic も、1トークンが何文字に当たるかはモデルと言語で変わるとしています。
ここで、たとえで説明しきれない点があります。絵のカードは同じ大きさですが、実際のトークンに入る文字の数はそろっていません。日本語の文章で1トークンがちょうど何文字か、という決まった数字もありません。覚えておきたいのは、同じ内容でも、言語やAIによって机の上で取る場所が変わるということです。
机があふれたとき

会話が長くなって、机の上の紙が上限に近づくと、どうなるでしょうか。新しい紙を置く場所が足りなくなります。そのときの扱いは、アプリによって違います。公式の説明があるものを挙げます。
- 古いやり取りを要約して机に置く:Claude では、設定でコード実行を有効にしている場合、上限が近づくと、それまでのメッセージを要約して会話を続けます。会話の履歴そのものは残り、要約の後も Claude が参照できると説明されています
- いっぱいになったことを知らせる:ChatGPT の無料プランでは、会話がいっぱいになると表示が出て、新しいチャットを始められます。要約を付けて始める選択肢が出ることもあります
- 古い紙から机を下ろす方式:Anthropic の技術資料は、claude.ai のようなチャット画面での管理の仕方として、古いものから順に押し出す方式もありうると説明しています。絵は、この方式を描いたものです
要約するにしても、古い紙を下ろすにしても、机の上に元の紙が全部並んだままにはなりません。要約は短い1枚にまとめ直したもので、OpenAI も説明しているとおり、細かい点が落ちることがあります。Claude のように、要約の後も履歴を残して参照できる製品もあります。それでも、会話の途中で決めた細かな約束ほど、要約からこぼれやすいと考えておくと安全です(これはこの記事の考えです)。
もう1つ、たとえで説明しきれない点があります。本物の机なら、載っている紙はどれも同じように読めますが、AIは違います。Anthropic は、上限の内側でも、トークンが増えるほど、正確に思い出す力が下がると説明しています。また、2024年に論文誌に載った研究では、複数の文書から答えを探す課題などで、必要な情報が入力の先頭か末尾にあると正答率が高く、中ほどにあると下がりました(2023年当時のAIでの実験です)。机が広ければ安心、とは限らないということです。
新しいチャットは、別の机

新しいチャットを開くのは、何も載っていない別の机に座ってもらうようなものです。前のチャットで机に広げた紙は、前の机に置いたままです。だから「さっきの続き」と言っても、AIの机の上にはその紙がありません。
裏を返すと、話題が変わったときに新しいチャットに切り替えれば、前の話題の紙に机を取られずに済みます。
ただし、たとえで説明しきれない点があります。新しい机でも、前の話がまったく届かないとは限りません。次に説明するメモリの機能や、Claude の有料プランにある過去のチャットを探して読む機能を使うと、前のチャットの一部が新しい机に届くことがあります。
メモ帳を持たせる(メモリ)

それでも、AIが前のチャットのことを知っているように見える場面があります。チャットをまたいで情報を残す、メモリの機能を使っている場合です。たとえるなら、AIが机とは別にメモ帳を持っていて、新しい机に座るときも、そのメモ帳を開いて読むようなものです。
- ChatGPT:保存されたメモリや過去のチャットなどを参照できます(使える範囲はプランと地域で変わります)。会話のすべての細部を残すのではなく、関係しそうな情報を選んで使います。設定でオフにでき、一時チャットではメモリを作らず、更新もしません
- Claude:無料版を含む個人プランで、メモリが最初からオンになっています。役割や仕事の文脈、好みなどを、話題ごとに保存します。設定で一時停止やリセットができ、シークレットチャットでは使いません。過去のチャットを探して読む機能は、有料プランだけです
たとえで説明しきれない点もあります。本物のメモ帳なら、何を書くかは持ち主が決めますが、AIのメモリでは、どの情報を使うかをAIの側が選びます。ChatGPT も、会話のすべての細部を残すわけではないと説明しています。前の机の紙が全部運ばれてくるわけではないので、細かな続きを頼むときは、やはり要点を渡す必要があります。
たとえと実際の言葉
| たとえ | 実際の言葉 | していること |
|---|---|---|
| 頭の中にあるもの | 学習(training)で身についた知識 | 作られる段階で大量の文章から身につけた、言葉の使われ方や一般的な知識 |
| 机の上に広げた紙 | その会話で渡した文章と、AIの返事 | 返事を書くたびに読み直す材料 |
| 机の広さ | コンテキストウィンドウ(context window) | 一度に読める範囲の上限 |
| 紙の量の数え方 | トークン(token) | 文章を小さなかたまりに切り分けて数えた量 |
| まとめ直した1枚・机から下ろす紙 | 古いやり取りの要約・押し出し | 上限に近づいたときの扱い(アプリによって違う) |
| 別の机 | 新しいチャット | 前のチャットの文章が入っていない状態から始める |
| メモ帳 | メモリ | チャットをまたいで、選んだ情報を残す |
AIと付き合うとき、人がすること

机の広さに限りがある以上、何を机に載せるかを決めるのは、使う人の仕事です。ここからは、この記事の考えです。
- 守ってほしい決まりは、短くまとめて渡す:長い説明の途中に埋もれさせず、箇条書きの数行にします。会話が長くなったら、同じ決まりをもう一度渡します
- 話題が変わったら、新しいチャットにする:前の話題の紙が机を取らないようにします
- 続きを頼むときは、要点のカードを1枚渡す:これまでに決まったこと、残っている作業、守ってほしい決まりを短くまとめて、新しいチャットの最初に貼ります。AIに要点をまとめてもらうこともできますが、要約は細かい点が落ちることがあるので、自分の目で確かめてから使います
- メモ帳を使うかどうかを、自分で決める:メモリは設定の画面でオフにでき、Claude では一時停止やリセットもできます。メモリに残したくない話は、一時チャットやシークレットチャットでします
会話の中身については、AIは机の上にある紙だけを頼りに返事を書きます。「前に言ったのに」と感じたら、怒る前に、その紙がいま机の上にあるかを考えてみてください。
用語
- コンテキストウィンドウ(context window)
- AIが返事を書くときに読める文章の範囲。その会話でのあなたの発言とAIの返事に加え、これから書く返事も含みます。大きさには上限があります。
- トークン(token)
- AIが文章の量を数える単位。単語や単語の一部、句読点などのかたまりで、1トークンが何文字に当たるかは言語やモデルで変わります。
- 学習(training)
- 大量の文章を材料に、AIに言葉の使われ方を身につけさせる工程。会話の中で渡した文章を読むこととは別の仕組みです。
- メモリ
- チャットをまたいで、利用者の好みや仕事の文脈などを残しておく機能。会話のすべてを残すのではなく、必要そうな情報を選んで使います。
よくある質問
長く話していると、AIが前の話を忘れたように見えるのはなぜですか?
AIが一度に読める量(コンテキストウィンドウ)に上限があるためです。会話が上限に近づくと、Claudeではコード実行を有効にしている場合に、それまでのメッセージを要約して会話を続けます(履歴は残り、要約の後も参照できます)。OpenAIも、要約では細かい点が落ちることがあると説明しています。また、Anthropicは、上限の内側でも、トークンが増えるほど正確に思い出す力が下がると説明しています。
新しいチャットを開くと、前のチャットの話を覚えていないのはなぜですか?
チャットごとに別の机を使うようなものだからです。メモリの機能を使っていれば、好みや仕事の文脈などは引き継がれることがありますが、会話のすべてが届くわけではありません。続きを頼むときは、要点をまとめて最初に渡すのが、この記事の考えです。
コンテキストウィンドウが大きいAIなら、長い会話でも安心ですか?
読める量は増えますが、読む量が増えるほど、必要な内容を正確に拾い出しにくくなることがあります。大事な決まりは短くまとめて渡し、話題が変わったら新しいチャットに切り替えるのが、この記事の考えです。
参考資料
この記事は、次の一次情報に基づいています。数値や記述の詳細は各資料をご確認ください。
参考資料 8 件を表示参考資料を閉じる
- Context windowsAnthropicplatform.claude.com確認
応答も含めてモデルが参照できる文章の全体で、学習データとは別の「作業用の記憶」。発言と応答は毎ターン積み上がる。claude.ai などは古い順に押し出す方式でも管理できる。上限はモデルで異なる(100万と20万トークン)。トークンが増えると正確さが下がる(context rot)。
- Why does ChatGPT say "Context window full" or "Chat memory full"?OpenAIhelp.openai.com確認
Free プランについての説明。利用者の発言とChatGPTの返事の両方が場所を取る。会話がいっぱいになると表示が出て、新しいチャットを始められる。要約つきで始める選択肢が出ることがあり、要約では細部が落ちることがある。
- How do usage and length limits work?Anthropicsupport.claude.com確認
コンテキストウィンドウは1つのチャットで扱える情報量。コード実行を有効にしている場合、上限が近づくとそれまでのメッセージを要約して会話を続け、履歴は残って要約後も参照できる。長さの上限に達したら新しい会話を始めるよう勧めている。
- Understanding and counting tokensOpenAIhelp.openai.com確認
トークンは文字・単語の一部・単語全体・句読点のいずれにもなりうる。英語では1トークンがおよそ4文字という目安で、ほかの言語では文字とトークンの関係が変わる。
- Lost in the Middle: How Language Models Use Long ContextsTransactions of the Association for Computational Linguisticsaclanthology.org確認
2024年に論文誌に掲載された論文(Liu ら)。複数文書の質問応答などで、必要な情報が入力の先頭か末尾にあると正答率が高く、中ほどにあると下がった。対象は2023年当時のモデル。
- Memory in ChatGPTOpenAIhelp.openai.com確認
ChatGPTは保存されたメモリや過去のチャットなどを参照できる(プランと地域で変わる)。すべての会話のすべての細部を残すのではなく、関係しそうな情報を選んで使う。設定でオフにできる。一時チャットはメモリを作らず、更新もしない。
- Use Claude's chat search and memory to build on previous contextAnthropicsupport.claude.com確認
Claudeのメモリは無料版を含む個人プランで既定でオンになり、役割・仕事の文脈・好みなどを話題ごとに保存する。設定で一時停止やリセットができ、シークレットチャットでは使われない。過去のチャットの検索は有料プランだけ。
この記事を引用する
三橋 遥香「AIはなぜ前の話を忘れる? コンテキストとトークンを「机の広さ」で説明します」株式会社フィールフロウ、2026年11月17日、https://feelflow.net/blog/2026-11-ai-context-window-tokens/

この記事を書いた人
三橋 遥香
エンジニア




