AIはなぜ前の話を忘れる? コンテキストとトークンを「机の広さ」で説明します

執筆:
三橋 遥香
エンジニア
公開
読了時間
7分で読めます
Share

長く話していると、AIが前に伝えたことを踏まえていないように見える。新しいチャットでは、さっきの話が通じない。前者はAIが一度に読める量に限りがあるため、後者はチャットごとに読む材料が別になるために起きます。コンテキストとトークンの仕組みを、AIの「机の広さ」にたとえて、まんがの挿絵で説明します。

POINT

会話の中身についてAIが読めるのは、その会話の「机」に広げた分だけです。机には広さの上限があり、あふれそうになると、古いやり取りを要約したり、新しいチャットを勧めたりします(扱いはアプリによって違います)。新しいチャットは別の机なので、前の話はメモリなどの機能を使わない限り届きません。

2026年11月16日に各社の公式資料と論文を確認。机のたとえは説明のための一例です。上限の大きさや、あふれそうなときの扱いは製品やプランによって異なります。当社による再現実験は行っていません。

生成AIのチャットで長くやり取りしていると、前に伝えたことを、AIが踏まえていないように見えることがあります。新しいチャットを開いて「さっきの続きをお願い」と頼むと、何の話か分からないと返されることもあります。

AIが怠けているわけではありません。長い会話では、AIが返事を書くときに読める量に限りがあるからです。新しいチャットでは、そもそも前の会話が読む材料に入っていないからです。この記事では、その仕組みを、AIの机の広さにたとえて説明します。

「頭の中の知識」と「机の上にある紙」は別のもの

先に、2つのものを分けておきます。

  • 学習で身についた知識:AIは、作られる段階で大量の文章を読み、言葉の使われ方を身につけています。これを学習(training)と呼びます。言葉の知識や一般的な事柄は、ここから来ています
  • その会話で渡した文章:あなたがチャットに書いたことや、貼り付けた資料です。AIは返事を書くたびに、これを読み直します

この記事で扱う「忘れる」は、後のほうの話です。たとえるなら、学習で身についた知識はAIの頭の中にあるもの、会話で渡した文章はAIの机の上に広げた紙です。会話の文章が学習に使われるかどうかは、設定によって変わる別の話なので、AIに個人情報を入れると学習される? ChatGPT無料版でもできる「学習オフ」で説明しています。

机の広さ(コンテキストウィンドウ)

ロボットが机に向かって紙を読んでいる。机の上には緑の枠があり、その中にオレンジの縁の紙と灰色の縁の紙が交互に5枚並ぶ。最初の紙には星のしるしがある。女の子が机の端にメジャーを当てて測っていて、机の前には「机の広さ」の札が下がっている。

AIを、机に向かって仕事をする係だと考えてみます。あなたが何かを頼むと、その文章が1枚の紙になって、机の上に置かれます。AIは返事を書き、その返事も紙になって机に並びます。次にあなたが話しかけると、AIは机の上の紙を全部読み直してから、次の返事を書きます。

この、AIが返事を書くときに読める範囲を、コンテキストウィンドウ(context window)と呼びます。Anthropic の説明では、コンテキストウィンドウは、学習に使った大量のデータとは別の、AIの「作業用の記憶」に当たります。中には、あなたの発言だけでなく、AIの返事も入ります。会話が続くほど、机の上の紙は増えていきます。

そして、机の広さには上限があります。どこまで広いかは、AIのモデルによって違います。

たとえで説明しきれない点もあります。本物の机なら、紙は同じ大きさですが、実際の会話では、短いあいさつも長い資料も、量に応じた場所を取ります。その量の数え方が、次のトークンです。

紙の量の数え方(トークン)

ロボットが紙をはさみで小さなカードに切り分け、机の上のカウンターで数えている。切ったカードは机に1列に並び、数えたカードは「トークン」と書かれた箱に入っていく。女の子はもう1枚の紙を差し出しながら、ロボットを見ている。

机にどれだけ載っているかは、紙の枚数ではなく、AIの数え方で決まります。絵のように、AIが紙を小さなカードに切り分けて、カードの枚数で量を数えている、と考えてみてください。このカードに当たるかたまりをトークン(token)と呼びます。コンテキストウィンドウの大きさも、トークンの数で表します。

トークンは、単語のこともあれば、単語の一部や句読点のこともあります。OpenAI は、英語ではおよそ4文字で1トークンという目安を示しつつ、ほかの言語では文字とトークンの関係が変わると説明しています。Anthropic も、1トークンが何文字に当たるかはモデルと言語で変わるとしています。

ここで、たとえで説明しきれない点があります。絵のカードは同じ大きさですが、実際のトークンに入る文字の数はそろっていません。日本語の文章で1トークンがちょうど何文字か、という決まった数字もありません。覚えておきたいのは、同じ内容でも、言語やAIによって机の上で取る場所が変わるということです。

机があふれたとき

ロボットが、紙で埋まった机で鉛筆を走らせている。女の子がもう1枚の紙を差し出しながら、汗をかいて驚いている。机の左端からは、「最初の決まり」と書かれた紙が床へ落ちていく。

会話が長くなって、机の上の紙が上限に近づくと、どうなるでしょうか。新しい紙を置く場所が足りなくなります。そのときの扱いは、アプリによって違います。公式の説明があるものを挙げます。

  • 古いやり取りを要約して机に置く:Claude では、設定でコード実行を有効にしている場合、上限が近づくと、それまでのメッセージを要約して会話を続けます。会話の履歴そのものは残り、要約の後も Claude が参照できると説明されています
  • いっぱいになったことを知らせる:ChatGPT の無料プランでは、会話がいっぱいになると表示が出て、新しいチャットを始められます。要約を付けて始める選択肢が出ることもあります
  • 古い紙から机を下ろす方式:Anthropic の技術資料は、claude.ai のようなチャット画面での管理の仕方として、古いものから順に押し出す方式もありうると説明しています。絵は、この方式を描いたものです

要約するにしても、古い紙を下ろすにしても、机の上に元の紙が全部並んだままにはなりません。要約は短い1枚にまとめ直したもので、OpenAI も説明しているとおり、細かい点が落ちることがあります。Claude のように、要約の後も履歴を残して参照できる製品もあります。それでも、会話の途中で決めた細かな約束ほど、要約からこぼれやすいと考えておくと安全です(これはこの記事の考えです)。

もう1つ、たとえで説明しきれない点があります。本物の机なら、載っている紙はどれも同じように読めますが、AIは違います。Anthropic は、上限の内側でも、トークンが増えるほど、正確に思い出す力が下がると説明しています。また、2024年に論文誌に載った研究では、複数の文書から答えを探す課題などで、必要な情報が入力の先頭か末尾にあると正答率が高く、中ほどにあると下がりました(2023年当時のAIでの実験です)。机が広ければ安心、とは限らないということです。

新しいチャットは、別の机

奥には紙が山積みになった古い机がある。手前の、何も載っていない新しい机にロボットが座っていて、笑顔で話しかける女の子に「何の話?」と首をかしげている。

新しいチャットを開くのは、何も載っていない別の机に座ってもらうようなものです。前のチャットで机に広げた紙は、前の机に置いたままです。だから「さっきの続き」と言っても、AIの机の上にはその紙がありません。

裏を返すと、話題が変わったときに新しいチャットに切り替えれば、前の話題の紙に机を取られずに済みます。

ただし、たとえで説明しきれない点があります。新しい机でも、前の話がまったく届かないとは限りません。次に説明するメモリの機能や、Claude の有料プランにある過去のチャットを探して読む機能を使うと、前のチャットの一部が新しい机に届くことがあります。

メモ帳を持たせる(メモリ)

紙が1枚だけ載った机で、ロボットが「メモ」と書かれた黄色い帳面を開いて読んでいる。横には本や箱の入った棚があり、女の子があごに指を当てて、不思議そうにのぞき込んでいる。

それでも、AIが前のチャットのことを知っているように見える場面があります。チャットをまたいで情報を残す、メモリの機能を使っている場合です。たとえるなら、AIが机とは別にメモ帳を持っていて、新しい机に座るときも、そのメモ帳を開いて読むようなものです。

  • ChatGPT:保存されたメモリや過去のチャットなどを参照できます(使える範囲はプランと地域で変わります)。会話のすべての細部を残すのではなく、関係しそうな情報を選んで使います。設定でオフにでき、一時チャットではメモリを作らず、更新もしません
  • Claude:無料版を含む個人プランで、メモリが最初からオンになっています。役割や仕事の文脈、好みなどを、話題ごとに保存します。設定で一時停止やリセットができ、シークレットチャットでは使いません。過去のチャットを探して読む機能は、有料プランだけです

たとえで説明しきれない点もあります。本物のメモ帳なら、何を書くかは持ち主が決めますが、AIのメモリでは、どの情報を使うかをAIの側が選びます。ChatGPT も、会話のすべての細部を残すわけではないと説明しています。前の机の紙が全部運ばれてくるわけではないので、細かな続きを頼むときは、やはり要点を渡す必要があります。

たとえと実際の言葉

たとえ 実際の言葉 していること
頭の中にあるもの 学習(training)で身についた知識 作られる段階で大量の文章から身につけた、言葉の使われ方や一般的な知識
机の上に広げた紙 その会話で渡した文章と、AIの返事 返事を書くたびに読み直す材料
机の広さ コンテキストウィンドウ(context window) 一度に読める範囲の上限
紙の量の数え方 トークン(token) 文章を小さなかたまりに切り分けて数えた量
まとめ直した1枚・机から下ろす紙 古いやり取りの要約・押し出し 上限に近づいたときの扱い(アプリによって違う)
別の机 新しいチャット 前のチャットの文章が入っていない状態から始める
メモ帳 メモリ チャットをまたいで、選んだ情報を残す

AIと付き合うとき、人がすること

奥には紙が山積みになった古い机がある。手前では、頭に鉛筆をのせた女の子が、片付いた机に座るロボットへ「要点」と書いたカードを両手で手渡している。

机の広さに限りがある以上、何を机に載せるかを決めるのは、使う人の仕事です。ここからは、この記事の考えです。

  • 守ってほしい決まりは、短くまとめて渡す:長い説明の途中に埋もれさせず、箇条書きの数行にします。会話が長くなったら、同じ決まりをもう一度渡します
  • 話題が変わったら、新しいチャットにする:前の話題の紙が机を取らないようにします
  • 続きを頼むときは、要点のカードを1枚渡す:これまでに決まったこと、残っている作業、守ってほしい決まりを短くまとめて、新しいチャットの最初に貼ります。AIに要点をまとめてもらうこともできますが、要約は細かい点が落ちることがあるので、自分の目で確かめてから使います
  • メモ帳を使うかどうかを、自分で決める:メモリは設定の画面でオフにでき、Claude では一時停止やリセットもできます。メモリに残したくない話は、一時チャットやシークレットチャットでします

会話の中身については、AIは机の上にある紙だけを頼りに返事を書きます。「前に言ったのに」と感じたら、怒る前に、その紙がいま机の上にあるかを考えてみてください。

用語

コンテキストウィンドウ(context window)
AIが返事を書くときに読める文章の範囲。その会話でのあなたの発言とAIの返事に加え、これから書く返事も含みます。大きさには上限があります。
トークン(token)
AIが文章の量を数える単位。単語や単語の一部、句読点などのかたまりで、1トークンが何文字に当たるかは言語やモデルで変わります。
学習(training)
大量の文章を材料に、AIに言葉の使われ方を身につけさせる工程。会話の中で渡した文章を読むこととは別の仕組みです。
メモリ
チャットをまたいで、利用者の好みや仕事の文脈などを残しておく機能。会話のすべてを残すのではなく、必要そうな情報を選んで使います。

よくある質問

長く話していると、AIが前の話を忘れたように見えるのはなぜですか?

AIが一度に読める量(コンテキストウィンドウ)に上限があるためです。会話が上限に近づくと、Claudeではコード実行を有効にしている場合に、それまでのメッセージを要約して会話を続けます(履歴は残り、要約の後も参照できます)。OpenAIも、要約では細かい点が落ちることがあると説明しています。また、Anthropicは、上限の内側でも、トークンが増えるほど正確に思い出す力が下がると説明しています。

新しいチャットを開くと、前のチャットの話を覚えていないのはなぜですか?

チャットごとに別の机を使うようなものだからです。メモリの機能を使っていれば、好みや仕事の文脈などは引き継がれることがありますが、会話のすべてが届くわけではありません。続きを頼むときは、要点をまとめて最初に渡すのが、この記事の考えです。

コンテキストウィンドウが大きいAIなら、長い会話でも安心ですか?

読める量は増えますが、読む量が増えるほど、必要な内容を正確に拾い出しにくくなることがあります。大事な決まりは短くまとめて渡し、話題が変わったら新しいチャットに切り替えるのが、この記事の考えです。

参考資料

この記事は、次の一次情報に基づいています。数値や記述の詳細は各資料をご確認ください。

参考資料 8 件を表示
  1. Context windows
    Anthropicplatform.claude.com確認

    応答も含めてモデルが参照できる文章の全体で、学習データとは別の「作業用の記憶」。発言と応答は毎ターン積み上がる。claude.ai などは古い順に押し出す方式でも管理できる。上限はモデルで異なる(100万と20万トークン)。トークンが増えると正確さが下がる(context rot)。

  2. Why does ChatGPT say "Context window full" or "Chat memory full"?
    OpenAIhelp.openai.com確認

    Free プランについての説明。利用者の発言とChatGPTの返事の両方が場所を取る。会話がいっぱいになると表示が出て、新しいチャットを始められる。要約つきで始める選択肢が出ることがあり、要約では細部が落ちることがある。

  3. How do usage and length limits work?
    Anthropicsupport.claude.com確認

    コンテキストウィンドウは1つのチャットで扱える情報量。コード実行を有効にしている場合、上限が近づくとそれまでのメッセージを要約して会話を続け、履歴は残って要約後も参照できる。長さの上限に達したら新しい会話を始めるよう勧めている。

  4. Understanding and counting tokens
    OpenAIhelp.openai.com確認

    トークンは文字・単語の一部・単語全体・句読点のいずれにもなりうる。英語では1トークンがおよそ4文字という目安で、ほかの言語では文字とトークンの関係が変わる。

  5. Glossary
    Anthropicplatform.claude.com確認

    1トークンが何文字に当たるかは、モデルと言語によって変わる。

  6. Lost in the Middle: How Language Models Use Long Contexts
    Transactions of the Association for Computational Linguisticsaclanthology.org確認

    2024年に論文誌に掲載された論文(Liu ら)。複数文書の質問応答などで、必要な情報が入力の先頭か末尾にあると正答率が高く、中ほどにあると下がった。対象は2023年当時のモデル。

  7. Memory in ChatGPT
    OpenAIhelp.openai.com確認

    ChatGPTは保存されたメモリや過去のチャットなどを参照できる(プランと地域で変わる)。すべての会話のすべての細部を残すのではなく、関係しそうな情報を選んで使う。設定でオフにできる。一時チャットはメモリを作らず、更新もしない。

  8. Use Claude's chat search and memory to build on previous context
    Anthropicsupport.claude.com確認

    Claudeのメモリは無料版を含む個人プランで既定でオンになり、役割・仕事の文脈・好みなどを話題ごとに保存する。設定で一時停止やリセットができ、シークレットチャットでは使われない。過去のチャットの検索は有料プランだけ。

この記事を引用する

三橋 遥香「AIはなぜ前の話を忘れる? コンテキストとトークンを「机の広さ」で説明します」株式会社フィールフロウ、2026年11月17日、https://feelflow.net/blog/2026-11-ai-context-window-tokens/

この記事を書いた人

三橋 遥香

エンジニア

この著者の記事を見る

次に読む

同じトピック:やさしく解説AIに個人情報を入れると学習される? ChatGPT無料版でもできる「学習オフ」ChatGPTの無料版でも、会話をAIの学習に使わない設定にできます。学習をオフにすると何が変わるのか、名前や電話番号を渡す前に何を確かめるかを、お詫びの手紙をたとえに、まんがの挿絵で説明します。