大型語言模型Large Language Model (LLM)
大型語言模型是用海量文字訓練、能理解並生成自然語言的 AI 模型,ChatGPT 和 Gemini 背後都是這類模型。
- 英文
- Large Language Model (LLM)
- 台灣常見別名
- 大型語言模型、大語言模型、LLM
- 簡中用語
- 大型语言模型、大语言模型
- 類別
- AI搜尋與GEO
- 提出者與年份
- 無單一提出者;Transformer 架構由 Vaswani 等人於 2017 年提出,GPT-3 研究於 2020 年發表
- 官方文件
- Attention Is All You Need(2017);Language Models are Few-Shot Learners(2020)
大型語言模型是什麼?
大型語言模型(LLM,Large Language Model)是用海量文字訓練出來的 AI 模型,能讀懂人寫的問題,也能寫出通順的回答。「大型」指的是模型有數十億甚至更多參數,也用了大量文字訓練;「語言模型」指它處理的對象是文字。ChatGPT、Gemini、Claude 背後都是這類模型。
它在 AI 搜尋裡負責「整理與寫出答案」這一步。搜尋系統先找到相關網頁,再把內容交給語言模型,由它讀過之後寫成一段回答,並標出來源。
舉例
有人在 ChatGPT 搜尋問「新網站要多久才會被 Google 收錄」。系統先找到 Google 搜尋中心的說明與幾篇 SEO 文章,語言模型再把這些內容整理成一段回答,並附上來源連結。你的文章如果被引用,就是這個流程的最後一步選中了它。
大型語言模型怎麼運作
第一步,切成詞元。 模型先把文字切成詞元(token),這是它處理文字的基本單位。
第二步,訓練時學習文字的規律。 研究者用大量文字訓練模型,讓它學會預測下一個詞元。2017 年 Vaswani 等人發表論文《Attention Is All You Need》,提出 Transformer 架構,這是現在多數大型語言模型的基礎。2020 年 OpenAI 發表 GPT-3,擁有 1,750 億個參數,論文顯示放大模型規模能明顯改善少量範例下的表現。
第三步,一個詞元一個詞元地生成回答。 使用時,模型依照輸入與已經寫出的內容,逐步預測下一個詞元,直到回答寫完。因為是在預測合理的文字,資料不足時也可能編出看似合理的內容。
第四步,搭配搜尋與外部資料。 為了讓回答有新資料、有來源,產品會在模型之前加上搜尋或檢索步驟,把找到的網頁片段放進上下文,再由模型生成答案。ChatGPT 搜尋、Google AI 摘要與 AI 模式、Perplexity 都是這種組合。
為什麼重要
大型語言模型改變了讀者取得資訊的方式。許多人現在直接讀 AI 寫的答案,而不是自己比較十個搜尋結果。網站的內容要先被找到,再被模型讀懂、採用,才會出現在答案裡。
這也解釋了為什麼清楚的結構、明確的答案與一致的資料更重要:模型是用文字的規律做判斷,內容含糊或互相矛盾,就容易被誤解或略過。
怎麼檢查
- 用 ChatGPT 搜尋、Perplexity 或 Google AI 模式,輸入你的核心服務關鍵字,看回答有沒有提到你的品牌。
- 點開回答的來源,看模型引用的是你頁面的哪一段,有沒有誤解原意。
- 檢查 robots.txt 對 GPTBot 等 AI 爬蟲的設定,確認這是你有意的選擇。
- 對照你頁面的段落結構,每個小標題下是否有一個能獨立回答問題的段落。
常見誤解
大型語言模型就像資料庫,會把查到的事實原樣讀出來。
它是預測文字的模型,不是查證事實的資料庫,所以可能編造不存在的內容。
大型語言模型知道最新消息。
它的知識停在訓練資料的截止日,要有搜尋功能才能回答新資訊。
有了大型語言模型,就不需要搜尋引擎。
AI 搜尋通常把兩者組合,先找網頁,再由模型整理。
大型語言模型和搜尋引擎差在哪
| 面向 | 大型語言模型 | 搜尋引擎 |
|---|---|---|
| 主要工作 | 理解問題並生成文字回答 | 依查詢找出相關網頁並排序 |
| 資料來源 | 訓練資料,加上搜尋到或提供的資料 | 已建立索引的網頁 |
| 常見組合 | 在搜尋之後整理資料、寫出答案 | 在結果旁加上 AI 生成的摘要 |
常見問題
大型語言模型會取代搜尋引擎嗎?
目前不會完全取代。語言模型擅長整理與寫出答案,但知識有截止日、可能編造內容,所以 AI 搜尋通常把它和搜尋引擎組合使用:先查網頁,再由模型整理成答案。
為什麼大型語言模型會編造不存在的資訊?
因為它的運作方式是預測下一段最合理的文字,而不是查證事實。資料不足時,它可能產生看起來合理、實際上不存在的內容,這種現象常被稱為幻覺,搭配搜尋並核對來源可以降低風險。
網站內容會被拿去訓練大型語言模型嗎?
有可能。公開網頁可能被模型廠商的爬蟲抓取後用於訓練,但網站可以在 robots.txt 對相關爬蟲設限,例如 OpenAI 的 GPTBot。是否要限制,要看你想不想讓內容成為模型知識的一部分。
LLM 和 ChatGPT 是同一個東西嗎?
不是。LLM 是一類技術,ChatGPT 是建立在 GPT 系列模型上的聊天產品。同樣的,Claude、Gemini 也是各家以自己的模型做成的產品。一個產品可以搭配搜尋或其他工具,不只是單純的模型。
LLM 會自己上網查資料嗎?
模型本身不會。它只靠訓練時學到的內容回答。能查網頁是因為產品另外接上搜尋工具,先取得網頁內容,再交給模型整理。所以同一個模型,開不開搜尋功能,答案可能差很多。