白話拆解 RAG：傳產也聽得懂的 AI 知識庫技術

企業 AI 落地研究所｜Casper／Max｜2026-10-10 建稿，2026-10-11（週日）錄製，集數待排。本集從零開始，用白話把 RAG 的每個技術零件拆開講。不假設聽眾聽過任何 RAG 的介紹：每個技術名詞第一次出現就給白話定義，引用的數字當場講出處，不說「之前講過」。

完整口白見 對談稿。backlog 編號待補。

原則：每個概念給一個生活比喻＋一個傳產例子。例子用「傳產常見的…」通用描述，不講特定公司或人。第三方說法一律改寫、講出處、揭露講者產品立場；YouTube 逐字稿不上 Pages。不念沒有第一手來源的數字。

本集問題與受眾

受眾：製造業主管、IT、業務與品管，可能完全沒聽過 RAG 的人。

要回答：一個問題丟進 AI 知識庫，到答案出來之間，到底發生了什麼？每一步會在哪裡出錯？

主張：RAG 是一條生產線——切塊、轉成向量、檢索、重排、組裝提示、生成、附引用。答案品質由最弱的那一站決定；看懂每一站，才知道該修哪裡，也才知道哪些問題根本不該交給 RAG。

Hook（不超過 30 秒）

Casper： 你問公司的 AI「這個料號的外徑多少」，它三秒就回答了。可是這三秒裡，它其實做了六、七件事：把文件切成小塊、把文字變成一串數字、在幾萬塊裡找最像的、再挑一次、塞進提示、最後才寫答案。今天我們用白話，把這條生產線一站一站拆開。

節奏與預估時間

全段預算約 40 分。對談稿口白約 7,000 字，照念約 27～32 分，加停頓與即興估 36～40 分，未試念。要壓到 30 分：第 5 段併入第 4 段、第 9 段只留一句、第 12 段的教學技巧略過。

0｜Hook 與開場（2 分）

• 主問題：今天要把公司的 AI 知識庫拆開來看，先從最基本的開始。
• 錄製備註：hook 裡的名詞先不解釋，第 1 段從零講。

1｜從零開始：RAG 是什麼（4 分）

• 主問題：ChatGPT 這麼厲害，為什麼不知道我們公司的規格？
• 這段要說清楚：
  • LLM（大型語言模型）：像 ChatGPT 背後那種，讀過大量公開文字、學會「接著寫出通順的下一句」的程式。它沒讀過你公司的內部文件，而且知識停在訓練那天。
  • RAG 逐字拆：Retrieval（檢索）＝先去找資料；Augmented（增強）＝把找到的資料補進問題裡；Generation（生成）＝讓模型根據這些資料寫答案。合起來：先找、再答。
  • 比喻：開書考試。不用背整本書，但要先翻到對的那一頁，才寫得出對的答案。
  • 為什麼不把文件全丟進去：文件太多塞不下、每個字都要算錢、沒辦法分誰能看哪份。
  • 一句話的全貌：事前把文件切成小塊（chunk）、轉成可比對的數字存起來；有人發問時，找出最相關的幾塊，連同問題交給模型，模型寫答案並附出處。
• 傳產例子：問 ChatGPT「我們 A-1023 的外徑」，它要嘛說不知道、要嘛編一個；接上公司規格書，它才能翻到那一頁。

• 錄製備註：數位時代 2026-09-29（叡揚合作企劃）作者自述把報帳規則丟進 NotebookLM 仍答錯（規則靠顏色標示）——可選用，口播說「一篇文章的作者提到」，帶出「文件寫給人看，不一定寫給 AI 看」。

• 全貌細節（第 1 段最後一句展開）：兩個階段。事前：文件切塊 → 轉成向量 → 存進索引。提問時：問題轉成向量 → 找最像的幾塊 → 重排 → 組裝成提示 → 模型生成 → 附引用。

• 比喻：工廠生產線，最後的品質由最弱的那一站決定。
• 傳產例子：業務問「某料號外徑、公差、最小訂購量」。

2｜Embedding 與向量：把意思變成座標（4 分）

• 主問題：embedding、向量，用白話怎麼講？
• 這段要說清楚：embedding 模型把一段文字變成一長串數字（向量），可以想成「意思的座標」；意思越近，座標越近。提問時問題也變成座標，再找附近的段落。
• 比喻：超市貨架——醬油跟醋擺在附近，洗衣精在另一區；你不知道商品名，走到對的區域也找得到。
• 傳產例子：問「出貨前要做哪些檢驗」，找得到標題寫「成品檢驗作業標準」的段落，即使字面不同。
• 限制：它找的是「意思像」，不是「正確」；料號 A-1023 與 A-1032 在意思上幾乎一樣。embedding 模型要支援中文，換模型就要整批重建索引。

3｜切塊策略：文件要怎麼切（4 分）

• 主問題：為什麼要切？切大切小有差嗎？
• 這段要說清楚：
  • 要切，因為整份文件太長、意思太混；找的單位是「塊」。
  • 太小：斷章取義；太大：一塊裡什麼都有，找得到但不準，也吃上下文。
  • 常見做法：固定長度＋前後重疊一小段；依標題、章節切；每塊帶上文件名、章節、版本日期等 metadata。
• 比喻：切蛋糕——切太碎每口都只有奶油，切太大一口吞不下；沿著夾層切最好。
• 傳產例子：作業標準依「步驟」切；規格表的表頭跟數字要在同一塊，切開就只剩數字。
• 錄製備註：不給「最佳字數」，那要依文件測。

4｜檢索與重排：先海選、再複試（4 分）

• 主問題：找到的那幾塊，是怎麼排出來的？
• 這段要說清楚：第一輪向量檢索很快，抓出前幾十塊；第二輪用重排模型（reranker）把「問題＋每一塊」一起讀過再打分，留下最相關的幾塊。分數太低就丟，全丟就回答找不到——這是讓 AI 會說「不知道」的關鍵（精誠 AI 小學堂 EP4 的概念，本機轉寫未校對，只講概念）。
• 比喻：徵才——先用履歷關鍵條件篩出 30 人，再面試挑 5 人；沒有合格的就不錄取。
• 傳產例子：問「某型號馬達能不能用在 220V」，海選抓到所有提到電壓的段落，複試留下那個型號的規格頁。
• 補一句：Kapa（賣檢索產品）2026-10-02 公布的千題企業查詢測試裡，加一個 reranker 分數從 0.41 拉到 0.50（廠商自測、自家資料，口播要講）。

5｜混合檢索：關鍵字＋向量（2 分）

• 主問題：既然向量這麼聰明，為什麼還要關鍵字？
• 這段要說清楚：關鍵字檢索（BM25）找「字一樣」，向量找「意思像」；料號、型號、客戶名、法規條號靠關鍵字，口語問題靠向量。兩個結果合併再重排，就是混合檢索。
• 比喻：找人——叫名字（關鍵字）最準，但只記得「那個戴眼鏡做品保的」就要靠描述（向量）。
• 傳產例子：「A-1023 的公差」要關鍵字；「哪種材質比較耐高溫」要向量。
• 來源：柏瀚 Roger Lin 混合檢索影片（2026-03）；Onyx（賣 RAG 產品）2026-05 的 EnterpriseRAG-Bench，模擬約 51 萬份企業文件，基線結果關鍵字檢索答對率約七成、向量檢索約五成（模擬資料，口播講誰測的）。

6｜組裝提示與上下文視窗（3 分）

• 主問題：找到之後，怎麼交給模型？
• 這段要說清楚：系統把「指示（只能根據以下資料回答、找不到就說不知道、附出處）＋找到的幾塊＋使用者問題」組成一份提示。上下文視窗是模型一次能讀的長度上限；塞越多越貴、越慢，重點也可能被淹沒，所以只放最相關的幾塊。
• 比喻：開會前給主管的資料夾——放三頁重點他會看，塞一百頁他會漏看。
• 傳產例子：報價問題只要塞那個料號的規格頁＋報價規則，不用把整本型錄塞進去。

7｜幻覺與引用（4 分）

• 主問題：都給資料了，為什麼還會亂講？
• 這段要說清楚：模型的本能是「寫出通順的答案」，資料不夠時會用自己背的知識補。對策：提示要求只根據資料回答；檢索結果是零塊就不呼叫模型（白白說大模型影片的做法，本機轉寫未校對）；每句附引用，讓人點回原文。引用不等於正確——要檢查引用的那段真的支持答案。
• 比喻：學生寫報告要附參考文獻；老師要翻開文獻核對，不是看有沒有附。
• 傳產例子：問某材料的耐溫，資料裡沒有，模型用網路常識回了一個數字——沒有引用就不能信。

8｜表格、PDF 與 OCR（3 分）

• 主問題：傳產文件一堆表格跟掃描檔，RAG 吃得下嗎？
• 這段要說清楚：PDF 是「排版」不是「資料」，轉文字時欄位順序可能亂；掃描檔要先 OCR，模糊、手寫、印章會出錯；合併儲存格、跨頁表格最容易錯位。PDF 的字型與版面也會影響結果：掃描型 PDF 沒有文字層、只能 OCR；特殊或內嵌字型可能轉成亂碼；雙欄排版、旋轉或過小的字、頁首頁尾、合併儲存格、壓在字上的浮水印與印章，都會打亂順序或字元。對策：轉完抽查、把表格轉成每列一句「料號 A，外徑 X，公差 Y」的描述，或乾脆把表格留在資料庫用查詢（第 11 段）。
• 比喻：影印再影印的傳真——看起來像，數字可能已經糊了。
• 傳產例子：規格表轉完欄位錯位，外徑對到隔壁料號；手寫檢驗表的 7 被辨識成 1。
• 來源：AI幫手頻道（100 張表格的討論整理）。

9｜權限：在哪一站擋（2 分）

• 主問題：權限放在哪一站？
• 這段要說清楚：在檢索那一站，用提問者的身分先過濾，再交給模型；不能先給模型看再叫它保密（原則出自 OWASP RAG Security Cheat Sheet）。每一塊要帶著原文件的權限標籤。
• 比喻：圖書館的閉架書庫——館員先看你的借書證再去拿，不是拿出來再叫你別看。
• 傳產例子：業務看得到型錄，看不到配方與模具圖面。

10｜怎麼評估：一張考卷（3 分）

• 主問題：怎麼知道做得好不好？
• 這段要說清楚：分開量兩件事——找對沒（該找的那塊有沒有在前幾名）、答對沒（答案正確、引用支持答案、資料不夠會說不知道）。考卷用同事真的問過的問題，標好答案在哪份文件；正常題、邊界題、陷阱題。每次改切塊、換模型、加重排，都用同一張考卷重考。
• 比喻：驗收進料——固定的抽檢標準，每批都用同一把尺。
• 傳產例子：考卷題目像「A-1023 最小訂購量」「已停產型號的替代料」（陷阱題：資料裡沒有）。
• 來源：Roger Lin Golden Dataset 影片；Chroma 創辦人「一個下午、叫個披薩寫第一版考卷」（Chroma 賣向量資料庫要講）。

11｜什麼時候不該用 RAG（3 分）

• 這段要說清楚：
  • 精準數字與表格查詢（BOM、庫存、價格表）：放資料庫用查詢（Text2SQL），比切成文件準；只給唯讀權限、指標定義要先統一（AI幫手整理的 Reddit 討論）。
  • 計算與流程（算價、報價單、追蹤）：RAG 找得到規則，但流程要靠自動化。
  • 排程：要靠 APS／ERP，不是生成式 AI。
  • 文件很少、很短：直接整份放進提示就好，不用建索引。
  • 不能外流的機密：不放，或改用地端。
• 比喻：螺絲起子很好用，但不能拿來鎖六角螺帽。

12｜收尾、教同事的三個小技巧、CTA（2 分）

• Casper 整理：生產線七站——切塊、向量、檢索、重排、組裝、生成、引用；答案品質由最弱的一站決定。
• 教同事的小技巧（簡短）：先示範「有掛知識庫 vs. 沒掛」的差別；讓大家養成點引用的習慣；動手做一個查規格的小助理，用十題考卷驗收。
• CTA：留言告訴我們，你們公司的知識庫最常卡在哪一站。

麥克風可以說／不要說

可以說：各段比喻與通用傳產例子；附出處的第三方數字（Kapa、EnterpriseRAG-Bench），每次都講誰測的、賣什麼。

不要說：「最佳切塊大小是 X 字」「加 reranker 準確率提升 X%」這類沒有出處的數字；把本機轉寫的影片說成原話；特定公司或人的名字；「RAG 可以完全消除幻覺」。