Token 是什麼?中文英文計算差異,影響你的 AI 費用
Token 是 AI 模型處理輸入與輸出的基本單位,但不等於字或詞;實際數量取決於模型與 tokenizer。本文說明分詞、context window、API 計費與 prompt 成本,並把 Token 對 SEO 的影響分清楚:可量測的是工具成本與文字容量,Google 並未把 Token 密度列為排名訊號。
最後更新:
Token 到底是什麼?
你每次打開 ChatGPT 或 Claude 輸入文字的時候,AI 其實沒有在「讀文字」。它看到的是一串數字。把文字轉換成數字的過程,就是 Tokenization(分詞),而每一個被切出來的最小單位,就叫做 Token。Token 是 AI 語言模型處理文字的基本計算單位,也是模型計費、理解語意、生成回應的基礎。
Token 是 AI 的「閱讀單位」,不是文字單位
Token 不等於字,也不等於詞。「台灣」可能是 2 個 Token,「SEO」可能是 1 個 Token,「策略」可能是 1 個 Token,但「啊」這種助詞有時候自己就佔一個 Token。Token 是 AI 語言模型處理文字的基本計算單位,大概就像樂高積木:每一塊積木不是最小的原子,但是組成整個結構的基礎。
模型會先把文字轉成 Token ID,再把它們映射為向量並進行後續運算。Tokenizer 會改變序列長度與切分邊界,因此會影響成本、可容納的文字量與訓練效率;但不能據此斷言某個詞被切成單一 Token 就一定理解得更好。模型最後如何表徵語意,仍取決於訓練資料、架構與上下文。
Token 可以解釋回答長度上限與 API 帳單,也能幫你比較不同模型可容納多少文字。至於回答被截斷、對話忘記前文或不同語言效果有差異,還可能涉及模型設定、產品端截斷策略、檢索流程與訓練資料,不能只歸因於 Token。
Token 會影響哪些可量測項目?
模型接收的是 Token 序列。序列長度與切分方式會影響 context window 的使用量,也可能影響訓練與推論效率;但沒有公開證據支持「較少見的詞被切成多個 Token,就會讓模型在摘要時遺漏細節」這種固定因果。實際效果必須用指定模型與指定 tokenizer 測試。
同一句話在不同語言、不同模型上可能得到不同的 Token 數,因為 tokenizer 的詞彙表與切分規則不同。中文沒有以空格標示詞界,但現代 tokenizer 會從多語資料學習常見字元與字串組合;不能把某次切分結果直接解讀成模型「不懂」完整詞義。
理解 Token 最直接的用途,是估算 API 成本、確認輸入與輸出限制,並用供應商提供的計數工具驗證實際用量。句子與段落結構仍應優先服務讀者與任務;不能只靠縮短 Token 數就推論內容更容易被理解或引用。
AI 怎麼把文字切成 Token?
把文字映射成 Token 的元件叫 tokenizer。同一句話在不同模型或 encoding 下可能得到不同 Token 數,進而改變 context window 用量與帳單;延遲則還受模型大小、硬體、服務負載與輸出長度影響,不能只由 Token 數直接推定。
常見 Tokenizer 方法與工具
常見做法包含 BPE、unigram 等 subword 方法,也有 byte-level 實作與供應商自有變體。tiktoken 是工具與實作,SentencePiece 是可支援多種演算法的框架,不應把兩者和 BPE 並列成「三種演算法」。
BPE(Byte-Pair Encoding) 原本是資料壓縮方法,Sennrich 等人在 2016 年將 subword BPE 用於神經機器翻譯。它會反覆合併常見符號對,讓常見片段用較少 Token 表示;OpenAI 的 tiktoken 是 byte-level BPE 的實作之一。其他供應商可能使用 SentencePiece、BPE 變體或未公開的 tokenizer,不能只靠模型品牌推定細節。
tiktoken 是 OpenAI 開源的快速 BPE tokenizer。OpenAI 官方也提供 Tokenizer 工具;同一段文字仍應選擇與目標模型相符的 encoding 來計數,不能把某一版 tiktoken 的結果直接套到所有 GPT 或其他供應商模型。
SentencePiece 是 Google 開源的語言無關 tokenizer 工具,可直接從原始句子訓練,並支援 BPE 與 unigram 等方法。Gemini API 提供官方的 countTokens 介面來取得指定模型的實際計數;跨模型比較時,應以各供應商工具回傳的數字為準。
中文和英文為什麼 Token 數不一樣?
OpenAI 對常見英文提供的粗略估算是 1 Token 約 4 個字元或 0.75 個英文單詞;這不是中文換算公式。中文、繁體中文與英文的實際 Token 數會隨模型、encoding、標點、詞彙與內容而變,不能用「1 個中文字固定等於 1.5 到 2 Token」當通則。
繁體中文在某些 tokenizer 上可能比英文或簡體中文使用更多 Token,但幅度不是固定常數。若成本會影響決策,應把真實 prompt 分別送進目標模型的官方 Token 計數器,再以該模型當下的 input、cached input 與 output 單價估算;不要先把繁體中文一律乘上 1.5 或 2。
如果系統 prompt 很長且會重複呼叫,可比較精簡繁體中文與英文版本的實際 Token、任務正確率和帳單,再決定是否改寫固定指令。公開網頁的語言則應服務目標讀者,不因未驗證的 Token 假設改成英文。關於 AI 內容流程,可參考 AI 內容 SEO 策略。
繁體中文的隱性成本與 prompt 對策
若同一份內容在指定模型上被切成較多 Token,它會更快占用該模型的 context window,也可能提高 API 成本。但這不代表公開網頁會因 Token 較多而被搜尋系統讀不完整;搜尋引擎的抓取、索引、切段與生成式回答流程各自有額外機制,目前沒有官方證據把繁中 Token 數直接連到搜尋可見度。
API 流程可從三處測試:刪除不影響任務的重複指令、把穩定前綴與動態內容分開、記錄各模型 usage 與品質。這些做法是否省錢必須用實際命中率與帳單驗證;公開網頁不要為了縮短 Token 而犧牲必要說明、品牌語氣或繁體中文可讀性。
對大量 API 呼叫而言,小幅的 Token 差異會隨用量累積。最可靠的做法是記錄每個模型回傳的 usage、快取命中與實際帳單,再決定是否精簡固定前綴或調整模型;公開網頁則應以讀者可讀性、資訊完整與可驗證性為先,不為了省 Token 犧牲必要內容。
Token 與模型能力的關係
Token 是模型輸入、輸出與 context window 的計量單位之一,因此會限制單次請求能放入多少內容;但模型能力不由 Token 單獨決定。架構、訓練資料、推論配置、檢索與產品端記憶策略都會影響結果。
Context Window 擴張:從片段閱讀到整本書的處理能力
Context Window(上下文視窗) 是模型單次請求可處理的 Token 容量,通常涵蓋系統指令、輸入、對話歷史與可用輸出空間。超過限制時,API 可能拒絕請求,產品也可能截斷舊訊息或先摘要;「一定自動丟掉最早內容」不是所有模型與介面的共同規則。
Context window 近年確實擴大;例如 GPT-4o 的公開規格為 128K,而 Gemini 1.5 Pro 曾提供 100 萬 Token 的長上下文。這些是特定模型版本的規格,不等於模型在整段長文上會維持相同品質,也不能直接推論搜尋系統會把整篇文章放入一次模型請求。
長上下文的進展涉及注意力方法、訓練方式、記憶體與推論系統等多個因素。規格仍會隨模型版本與產品介面改變,使用時應查當下模型頁,並以長文測試驗證資訊召回品質。
詞彙量擴張:分詞效率如何反饋到理解品質
詞彙表大小會影響切分粒度與序列長度,但「詞彙量越大,理解就一定越好」並不成立;更大的詞彙表也會增加 embedding 與輸出層成本。比較 tokenizer 時,必須把模型大小、訓練資料、計算量與詞彙量等條件一起控制。
COLM 2025 的 SuperBPE 研究在固定 200K 詞彙量等受控設定下,報告相較 BPE 最多減少 33% Token,30 個下游任務平均絕對提升 4.0%,其中 MMLU 為 +8.2%,推論計算量減少 27%。這是特定 8B 研究模型與實驗設定的結果,能證明 tokenizer 設計值得測試,但不能直接外推到所有商用模型或繁體中文內容。
不同模型處理繁體中文長文本的品質可能不同,tokenizer 是可能因素之一,但不能從摘要品質反推唯一原因。實務評估應同時記錄 Token 數、任務正確率、長文召回與費用,才能區分分詞效率與模型能力。
Token 的費用結構
幾乎所有主流 AI API 都以 Token 為計費單位,而 Token 的單價會因模型、輸入輸出方向、是否命中快取,以及呼叫方式而產生數十倍甚至上百倍的差異。理解這層費用結構,才能讓每一筆 API 呼叫都花在刀口上,避免用旗艦模型的預算去跑只需輕量模型就能完成的任務。
四種 Token 類型
API 帳單常見 input、output、cached input 與 reasoning/thinking 等用量欄位,但分類與計價方式依供應商、模型和端點而異。Output 常比 input 貴,幅度要查指定模型價目;快取讀取通常有折扣,但建立快取、保存時間與最低前綴長度也可能另外計費。推理模型可能把不可見的 reasoning 或 thinking Token 納入用量,不能假設只有 o1/o3 系列會發生。
Cached input 與 reasoning/thinking 的計價尤其需要看指定端點。快取只有在符合前綴、長度、TTL 等條件時才會命中;推理用量也可能存在於 OpenAI、Anthropic 或 Gemini 的不同模型中,並非 o1/o3 專屬。
2026 主要模型費用對比
以下為 2026 年 8 月 10 日查核到的標準 API 文字價格(美元/每百萬 Token);價格會變,實際採購前仍要重查 OpenAI、Anthropic 與 Google 官方價目。Gemini 2.5 Pro 表內價格適用於 prompt 不超過 200K Token 的級距。
| 模型 | Input(每百萬 Token) | Output(每百萬 Token) |
|---|---|---|
| GPT-5.2 | $1.75 | $14.00 |
| Claude Sonnet 4.6 | $3.00 | $15.00 |
| Gemini 2.5 Pro(≤200K prompt) | $1.25 | $10.00 |
| Gemini 2.5 Flash-Lite | $0.10 | $0.40 |
表格顯示不同模型的標準單價差距很大,但「同等工作」不能只看每 Token 價格:不同 tokenizer 會產生不同 Token 數,推理/thinking 用量、長上下文級距、工具費與任務成功率也會改變總成本。應用自己的資料集測量每個成功結果的實際成本。
Batch、Cache 與模型分層的疊加效應
Batch 與 prompt caching 的折扣必須按供應商分開計算。OpenAI、Anthropic 與 Gemini 的 Batch 方案多數可比標準非同步價格低 50%;快取讀取也可能大幅折價,但快取寫入、保存與長上下文有各自費率。是否能和 Batch 疊加、折扣先後及適用模型,都以該端點的官方價目與實際 usage 為準,不能用通用的「先五折再一折」公式。
Batch 適合能接受非即時處理的工作;例如 OpenAI Batch 的完成窗口可到 24 小時。Prompt caching 通常依賴可重用的前綴,但最低長度、TTL、顯式或自動快取方式會隨供應商改變。把穩定內容放前面是可測試的做法,仍應以 cache usage 欄位確認是否真的命中。
模型分層應由真實任務評估決定:先定義品質門檻,再比較正確率、延遲與每個合格結果的成本。分類或抽取有時可由低價模型完成,但不能預設它在「大多數任務」與旗艦模型沒有可感知差異。
懂 Token,對 AI 搜尋和 SEO 有什麼實際影響
Token 知識對 SEO 團隊最可驗證的用途,是控制自家 AI 工具的輸入長度、費用與批次流程。Google Search 與 AI 回答系統會使用多階段的抓取、索引、檢索與排序機制;目前沒有官方資料把網頁 Token 效率列為排名或被引用機率的直接訊號。
Passage ranking 與 Token:不要混為一談
Google 官方說明,passage ranking 系統會辨識頁面中的個別區段,以更好理解整頁對查詢的相關性;這不等於每個段落各自建立獨立索引。官方也沒有公布固定 Token 配額、Token 密度門檻或「中文需要更密集實體關鍵字」的公式。
段落應長到足以完整回答問題,也要短到讓讀者容易掃讀。這是可用性與編輯品質原則,不是已證實的 Token 排名公式。需要判斷段落是否可獨立理解時,可用實際查詢與人工評讀測試,而不是追求固定字數或實體密度。
把核心答案放在相關標題後方,能改善讀者掃讀,也方便摘要與人工引用;但目前沒有 Google 官方證據證明 AI Overview 因 context window 順序而固定提高文章前段的權重。位置效應若要主張,必須以可重現測試標記為觀察,而非搜尋機制。
從 Token 計數回到內容結構的具體原則
第一個原則是「答案前置」:先直接回答標題問題,再補條件、證據與例外。這是提升可讀性與可摘錄性的編輯做法,不是 AI 搜尋保證;發布後仍要用查詢表現與引用紀錄驗證。
第二個原則是「關係清楚」:產品名、數據與專有名詞只在有助於回答時出現,並明確寫出彼此關係。不要堆疊所謂實體關鍵字,也不要把較少 Token 等同較高語意效率。
第三個原則是「結構層級對齊」:每個 H2 處理一個主要子題,H3 再拆解必要面向。清楚標題有助讀者與系統理解內容,但是否排名或被引用仍由多項訊號共同決定。
關於 AI 搜尋的引用機制如何影響你的 SEO 策略,我們有更完整的分析:AI Overviews 排名優化實作指南。而 AI SEO 的整體框架,可以從 AI SEO 的定義與運作原理 這篇開始看起。
如果要評估內容在 AI 搜尋中的可見度,應記錄實際查詢、引用頁面與變更前後結果,而不是只檢查 Token 密度。SEO 成長顧問(10 萬起/月)會把內容架構與產出流程、搜尋意圖對齊、技術 SEO 基礎與月度策略調整接成持續檢視的工作。
結語:把 Token 知識接回你的 SEO 執行
Token 是管理模型輸入、輸出、context window 與 API 成本的實用單位。它可以幫助團隊量測自家 AI 流程,但不能單獨預測 Google 排名或 AI 搜尋引用。內容是否有效,仍要看答案品質、來源、結構與發布後的實際查詢證據。
從 Token 成本回頭看內容結構的驗證標準
Token 的費用結構可以用來管理你自己呼叫模型的成本,但不能據此推定搜尋引擎如何分配頁面讀取預算。發布前可檢查標題是否具體、段落是否先回答再說明、關鍵事實是否附來源;發布後再用排名、流量與 AI 引用紀錄驗證效果。
內容結構可以用具體問題檢查:第一個 <h2> 是否直接回答標題?每個 <h3> 底下是否有完整論述?關鍵數據是否附上來源與適用日期?「只讀前 200 個 Token」不是公開規則,因此不把它當成發布門檻。
把 Token 計數和內容品質檢查分開,SEO 執行會更可驗證:Token 用量由工具量測,搜尋與引用效果由實際查詢追蹤,內容本身則檢查答案、來源、結構與商業承接是否一致。
把 Token 知識轉為可重複的內容生產流程
若團隊大量使用 AI 工具,可把 Token 計數納入內容生產流程:先定義任務與品質門檻,記錄指定模型的 input、output、cached 與 reasoning/thinking 用量,再把答案完整性、來源與結構作為另一組內容檢查。兩組指標不要混成單一「AI 友善分數」。
發布前可以驗證 HTML 結構、答案完整與來源;排名、流量與 AI 引用則必須等發布後用實際資料判斷。把可預檢的品質條件與事後效果分開,團隊才不會把格式合格誤當成 SEO 成功。
如果內容規模已超過內部團隊能維護的範圍,SEO 成長顧問(10 萬起/月)可協助調整內容架構與產出流程、對齊搜尋意圖,並以月度策略調整持續檢視執行方向;不把 Token 密度包裝成保證排名或引用的指標。
從理解到執行:你需要的是結構系統,不是更多技巧
Token 知識的終點,是讓團隊能回答兩組不同問題:這次模型請求用了多少資源,以及這頁內容是否清楚、可核對。前者用 usage 與帳單量測;後者用讀者、來源與發布後搜尋資料驗證。任何一組都不能替另一組下結論。
實務上可同時維護模型成本紀錄與內容品質清單:模型成本包含 Token、延遲與成功率;內容品質包含標題層級、答案、證據、更新日期與商業承接。這樣 Token 才是可觀察的營運指標,而不是新的 SEO 神話。
若內部團隊需要外部支援,可以參考 SEO 成長顧問服務的合作方式;合作重點是建立可量測流程並持續驗證,不承諾用 Token 技巧直接換取排名或 AI 引用。
常見問題
Token 和字(Character)有什麼不同?
字元是文字編碼單位,Token 是模型 tokenizer 產生的序列單位,兩者通常不對齊。英文 hello 在某些 encoding 可能是一個 Token,在其他 encoding 不一定;中文詞組也可能被切成一個或多個 Token。請用目標模型的工具測算。
一個中文字等於幾個 Token?
沒有跨模型通用的換算。中文字、繁體字、標點與常見詞組在不同 tokenizer 上會得到不同數量;同樣資訊用中文或英文也不能先假設固定倍數。請用目標模型的官方計數工具測量實際內容。
Token 數量怎麼計算?有工具嗎?
OpenAI 的 tiktoken 可計算其支援 encoding 的 Token 數,Gemini API 也提供 countTokens。計數必須綁定實際模型;英文「1 Token 約 4 字元或 0.75 個單詞」只是 OpenAI 對常見英文的粗估,不能換算成「1,000 個中文字固定 1,500–2,000 Token」。
Context Window 是什麼?和 Token 有什麼關係?
Context window 是模型單次請求可處理的 Token 容量,通常涵蓋指令、輸入、歷史與輸出空間。超限時可能報錯、截斷或摘要,取決於 API 與產品。GPT-4o 的 128K 是特定模型規格,不宜換算成固定書本字數或推定長文品質。
為什麼 AI 有時候「忘記」前面說了什麼?
Context window 滿是原因之一,但產品端摘要、檢索、系統指令與模型本身也可能造成前文遺失。先查看該模型與介面的用量/截斷行為,再決定開新對話、摘要必要背景或改用更長上下文模型。
Output Token 為什麼比 Input Token 貴?
許多 API 的 output 單價高於 input,但倍率由模型價目決定;不能用「GPU 算力固定多 5–10 倍」解釋所有供應商。估算時應分別乘上 input、cached input、output 與 reasoning/thinking 的實際用量。
Cached Token 是什麼?怎麼用?
Prompt caching 會重用符合供應商規則的前綴計算結果。快取讀取可能大幅折價,但寫入、TTL、最低長度與命中方式各異;例如 Anthropic 的 5 分鐘快取讀取為基礎 input 的 0.1 倍,寫入則高於基礎 input。必須查看 usage 欄位確認命中。
中文 Prompt 一定比英文貴嗎?
不一定。中文與英文的 Token 數會隨模型、encoding 與文字內容改變;英文系統指令也可能改變輸出品質。若成本重要,請對同一任務做雙語計數與品質測試,再決定是否改寫。
不同 AI 模型用的 Tokenizer 都一樣嗎?
不一樣。OpenAI 提供 tiktoken,Gemini 提供 countTokens;其他模型可能使用自有或未完整公開的 tokenizer。跨模型比較時應分開計數,不要假設演算法或詞彙表相同。
懂 Token 對寫 SEO 文章有什麼幫助?
它能幫你估算 AI 輔助流程的 prompt 長度、context window 與 API 成本。寫 SEO 文章時,答案前置與清楚標題仍是良好的讀者導向做法,但沒有證據證明段落前幾句會直接決定 AI 搜尋引用機率;效果要靠實際查詢與引用追蹤驗證。
想先自己檢查:相關免費工具
先用這幾個工具把文章提到的項目對照一次,再回到你的網站情境閱讀結果。