跳到主要內容

上下文視窗Context Window

上下文視窗是語言模型單次請求能處理的文字總量上限,以詞元計算,輸入的指令、文件、對話紀錄與模型的回答都會占用。

英文
Context Window
台灣常見別名
上下文視窗、上下文窗口、語境視窗
簡中用語
上下文窗口、上下文容量
類別
AI搜尋與GEO
提出者與年份
語言模型的技術參數,單一提出者未查到
官方文件
OpenAI API 模型清單、Anthropic Claude models overview(列出上下文視窗與知識截止日)

上下文視窗是什麼?

上下文視窗(Context Window)是語言模型一次請求能「看到」的文字總量上限。你傳給模型的指令、貼上的文件、前面的對話,加上模型寫出來的回答,全部都要放進這個空間。超過上限就放不下,產品可能截斷舊內容或直接報錯。

這個容量的單位是詞元(token),也就是模型切分文字的最小單位,可能是一個字、一個詞或一個詞的一部分。它發生在模型處理請求的階段,和模型「記得多少知識」是不同的事。

舉例

你把網站 200 篇文章的全文貼給 ChatGPT,請它找出內容重複的文章。如果全部加起來超過視窗上限,後面的文章就放不進去,模型根本沒讀到,回答也就只涵蓋前面的部分。

上下文視窗怎麼運作

第一步,把文字切成詞元。 模型先把輸入的文字轉成詞元,視窗大小用詞元數計算。同一段文字在不同模型會切出不同數量,要用各家官方的詞元計算工具才準。

第二步,所有內容一起占用空間。 系統指令、對話歷史、你貼的文件、搜尋到的網頁片段,以及模型產生的回答,全部算在同一個視窗裡。畫面上看得到的聊天紀錄,不一定都會送進這一次的請求。

第三步,超過上限時各產品自行處理。 有的產品截掉最舊的對話,有的先摘要前文,有的直接報錯。把所有資料照收到的順序硬接在一起,重要的內容可能剛好落在被截掉的部分。

現況的數量級。 OpenAI 的模型清單列出目前旗艦模型的上下文視窗約 105 萬詞元,最大輸出 12.8 萬詞元。Anthropic 的文件列出目前模型的上下文視窗是 100 萬詞元,最大輸出 12.8 萬詞元,並說明 100 萬詞元約相當 55.5 萬個英文單字。

為什麼重要

AI 搜尋不會把整個網站都讀進去。系統通常先檢索出相關片段,再把片段放進視窗生成答案。你的頁面如果很長,只有被選中的一部分會被讀到,結論放在最後面的內容,可能剛好落在沒被選進去的地方。

各產品實際送進視窗多少搜尋內容,官方都沒有公開。可以確定的是,把重點寫在前段、每段都能獨立回答一個問題,對任何視窗大小都比較安全。

怎麼檢查

  1. 查你常用的 AI 產品所使用模型的官方文件,確認上下文視窗與最大輸出的數字。
  2. 用官方的詞元計算工具,貼上你的重點頁面全文,估算它占用多少詞元。
  3. 檢查頁面結構:結論是否在前段,每個小標題下的段落是否不靠前文也看得懂。
  4. 把長頁面拆成主題單一的獨立頁面,再用 AI 搜尋查同一個問題,比較引用的段落有沒有改變。

常見誤解

  • 視窗有 100 萬詞元,就可以把整個網站丟進去。

    能放進去不代表每段都被同樣仔細地讀,資料太多時重要內容也可能被忽略,仍需先挑出相關片段。

  • 聊天畫面上看到的內容,模型都記得。

    畫面上的紀錄不一定全部送進這一次請求,產品可能截斷或摘要舊內容。

  • 上下文視窗等於模型的知識量。

    視窗是一次請求的工作空間,知識來自訓練資料,兩者的限制各自獨立。

上下文視窗和最大輸出差在哪

面向上下文視窗最大輸出
管什麼一次請求能放進多少輸入與輸出的總量模型單次最多能寫出多長的回答
常見單位詞元詞元
目前旗艦模型約 100 萬詞元約 12.8 萬詞元

常見問題

上下文視窗越大,AI 回答就越準嗎?

不一定。視窗大代表一次能放進更多資料,但不代表模型會同樣仔細地讀每一段。資料太雜時,重要內容可能被淹沒,所以要放對的資料,而不是把所有東西塞進去。

一個詞元大約等於幾個字?

沒有固定比例,不同語言與不同模型切出的詞元數不同。Anthropic 的文件說明,100 萬詞元約相當 55.5 萬個英文單字,換成中文要用各家官方的詞元計算工具實測。

上下文視窗和 SEO 有什麼關係?

AI 搜尋會把查到的網頁片段放進視窗再寫答案,放不下的內容就不會被讀到。把結論與關鍵資料寫在頁面前段、每個段落能獨立理解,被完整讀進去的機會比較高。

怎麼避免對話超過上下文視窗?

只貼和問題相關的片段,不要整份文件全部放進去;對話很長時,先請模型摘要前文再繼續,並事先用官方詞元計算工具估算用量。這樣重要資料比較不會被截掉。

AK · AKSEO Labs · 上線