白話拆解 RAG：傳產也聽得懂的 AI 知識庫技術

企業 AI 落地研究所｜Casper／Max｜2026-10-10 建稿，2026-10-11（週日）錄製，集數待排。本集與 企業 RAG 那集 互補：那集講企業 RAG 為什麼答錯（測試數據、權限事故、版本、地端設備、ROI）；這集用白話把 RAG 的每個技術零件拆開講。兩集同日錄，本集不重複那集的測試數字與事故細節，需要時一句帶過「上集講過」。

完整口白見 對談稿。backlog 編號待補。

原則：每個概念給一個生活比喻＋一個傳產例子。例子用「傳產常見的…」通用描述，不講特定公司或人。第三方說法一律改寫、講出處、揭露講者產品立場；YouTube 逐字稿不上 Pages。不念沒有第一手來源的數字。

本集問題與受眾

受眾：製造業主管、IT、業務與品管，聽過 RAG 但不知道裡面在做什麼的人。

要回答：一個問題丟進 AI 知識庫，到答案出來之間，到底發生了什麼？每一步會在哪裡出錯？

主張：RAG 是一條生產線——切塊、轉成向量、檢索、重排、組裝提示、生成、附引用。答案品質由最弱的那一站決定；看懂每一站，才知道該修哪裡，也才知道哪些問題根本不該交給 RAG。

Hook（不超過 30 秒）

Casper： 你問公司的 AI「這個料號的外徑多少」，它三秒就回答了。可是這三秒裡，它其實做了六、七件事：把文件切成小塊、把文字變成一串數字、在幾萬塊裡找最像的、再挑一次、塞進提示、最後才寫答案。今天我們用白話，把這條生產線一站一站拆開。

節奏與預估時間

全段預算約 41 分。對談稿口白約 6,500 字，照念約 26～30 分，加停頓與即興估 34～40 分，未試念。要壓到 30 分：第 4 段併入第 3 段、第 8 段只留一句、第 11 段的教學技巧略過。

0｜Hook 與開場（2 分）

• 主問題：上集講 RAG 為什麼答錯，今天要把它拆開。先用一句話講，RAG 的整條流程是什麼？
• 這段要說清楚：兩個階段。事前：文件切塊 → 轉成向量 → 存進索引。提問時：問題轉成向量 → 找最像的幾塊 → 重排 → 組裝成提示 → 模型生成 → 附引用。
• 比喻：工廠生產線，最後的品質由最弱的那一站決定。
• 傳產例子：業務問「某料號外徑、公差、最小訂購量」。

1｜Embedding 與向量：把意思變成座標（5 分）

• 主問題：embedding、向量，用白話怎麼講？
• 這段要說清楚：embedding 模型把一段文字變成一長串數字（向量），可以想成「意思的座標」；意思越近，座標越近。提問時問題也變成座標，再找附近的段落。
• 比喻：超市貨架——醬油跟醋擺在附近，洗衣精在另一區；你不知道商品名，走到對的區域也找得到。
• 傳產例子：問「出貨前要做哪些檢驗」，找得到標題寫「成品檢驗作業標準」的段落，即使字面不同。
• 限制：它找的是「意思像」，不是「正確」；料號 A-1023 與 A-1032 在意思上幾乎一樣。embedding 模型要支援中文，換模型就要整批重建索引。

2｜切塊策略：文件要怎麼切（5 分）

• 主問題：為什麼要切？切大切小有差嗎？
• 這段要說清楚：
  • 要切，因為整份文件太長、意思太混；找的單位是「塊」。
  • 太小：斷章取義；太大：一塊裡什麼都有，找得到但不準，也吃上下文。
  • 常見做法：固定長度＋前後重疊一小段；依標題、章節切；每塊帶上文件名、章節、版本日期等 metadata。
• 比喻：切蛋糕——切太碎每口都只有奶油，切太大一口吞不下；沿著夾層切最好。
• 傳產例子：作業標準依「步驟」切；規格表的表頭跟數字要在同一塊，切開就只剩數字（上集提過）。
• 錄製備註：不給「最佳字數」，那要依文件測。

3｜檢索與重排：先海選、再複試（4 分）

• 主問題：找到的那幾塊，是怎麼排出來的？
• 這段要說清楚：第一輪向量檢索很快，抓出前幾十塊；第二輪用重排模型（reranker）把「問題＋每一塊」一起讀過再打分，留下最相關的幾塊。分數太低就丟，全丟就回答找不到——這是讓 AI 會說「不知道」的關鍵（精誠 AI 小學堂 EP4 的概念，本機轉寫未校對，只講概念）。
• 比喻：徵才——先用履歷關鍵條件篩出 30 人，再面試挑 5 人；沒有合格的就不錄取。
• 傳產例子：問「某型號馬達能不能用在 220V」，海選抓到所有提到電壓的段落，複試留下那個型號的規格頁。
• 補一句：上集 Kapa 的測試裡加一個 reranker 就有明顯改善（數字上集講過，不重念）。

4｜混合檢索：關鍵字＋向量（3 分）

• 主問題：既然向量這麼聰明，為什麼還要關鍵字？
• 這段要說清楚：關鍵字檢索（BM25）找「字一樣」，向量找「意思像」；料號、型號、客戶名、法規條號靠關鍵字，口語問題靠向量。兩個結果合併再重排，就是混合檢索。
• 比喻：找人——叫名字（關鍵字）最準，但只記得「那個戴眼鏡做品保的」就要靠描述（向量）。
• 傳產例子：「A-1023 的公差」要關鍵字；「哪種材質比較耐高溫」要向量。
• 來源：柏瀚 Roger Lin 混合檢索影片（2026-03）；上集 EnterpriseRAG-Bench 關鍵字表現不輸向量（一句帶過）。

5｜組裝提示與上下文視窗（4 分）

• 主問題：找到之後，怎麼交給模型？
• 這段要說清楚：系統把「指示（只能根據以下資料回答、找不到就說不知道、附出處）＋找到的幾塊＋使用者問題」組成一份提示。上下文視窗是模型一次能讀的長度上限；塞越多越貴、越慢，重點也可能被淹沒，所以只放最相關的幾塊。
• 比喻：開會前給主管的資料夾——放三頁重點他會看，塞一百頁他會漏看。
• 傳產例子：報價問題只要塞那個料號的規格頁＋報價規則，不用把整本型錄塞進去。

6｜幻覺與引用（4 分）

• 主問題：都給資料了，為什麼還會亂講？
• 這段要說清楚：模型的本能是「寫出通順的答案」，資料不夠時會用自己背的知識補。對策：提示要求只根據資料回答；檢索結果是零塊就不呼叫模型（白白說大模型影片的做法，本機轉寫未校對）；每句附引用，讓人點回原文。引用不等於正確——要檢查引用的那段真的支持答案。
• 比喻：學生寫報告要附參考文獻；老師要翻開文獻核對，不是看有沒有附。
• 傳產例子：問某材料的耐溫，資料裡沒有，模型用網路常識回了一個數字——沒有引用就不能信。

7｜表格、PDF 與 OCR（4 分）

• 主問題：傳產文件一堆表格跟掃描檔，RAG 吃得下嗎？
• 這段要說清楚：PDF 是「排版」不是「資料」，轉文字時欄位順序可能亂；掃描檔要先 OCR，模糊、手寫、印章會出錯；合併儲存格、跨頁表格最容易錯位。對策：轉完抽查、把表格轉成每列一句「料號 A，外徑 X，公差 Y」的描述，或乾脆把表格留在資料庫用查詢（第 10 段）。
• 比喻：影印再影印的傳真——看起來像，數字可能已經糊了。
• 傳產例子：規格表轉完欄位錯位，外徑對到隔壁料號；手寫檢驗表的 7 被辨識成 1。
• 來源：AI幫手頻道（100 張表格的討論整理）。

8｜權限：在哪一站擋（2 分）

• 主問題：權限放在哪一站？
• 這段要說清楚：在檢索那一站，用提問者的身分先過濾，再交給模型；不能先給模型看再叫它保密（上集詳講，這裡一句）。每一塊要帶著原文件的權限標籤。
• 比喻：圖書館的閉架書庫——館員先看你的借書證再去拿，不是拿出來再叫你別看。
• 傳產例子：業務看得到型錄，看不到配方與模具圖面。

9｜怎麼評估：一張考卷（3 分）

• 主問題：怎麼知道做得好不好？
• 這段要說清楚：分開量兩件事——找對沒（該找的那塊有沒有在前幾名）、答對沒（答案正確、引用支持答案、資料不夠會說不知道）。考卷用同事真的問過的問題，標好答案在哪份文件；正常題、邊界題、陷阱題。每次改切塊、換模型、加重排，都用同一張考卷重考。
• 比喻：驗收進料——固定的抽檢標準，每批都用同一把尺。
• 傳產例子：考卷題目像「A-1023 最小訂購量」「已停產型號的替代料」（陷阱題：資料裡沒有）。
• 來源：Roger Lin Golden Dataset 影片；Chroma 創辦人「一個下午、叫個披薩寫第一版考卷」（Chroma 賣向量資料庫要講）。

10｜什麼時候不該用 RAG（3 分）

• 這段要說清楚：
  • 精準數字與表格查詢（BOM、庫存、價格表）：放資料庫用查詢（Text2SQL），比切成文件準；只給唯讀權限、指標定義要先統一（AI幫手整理的 Reddit 討論）。
  • 計算與流程（算價、報價單、追蹤）：RAG 找得到規則，但流程要靠自動化。
  • 排程：要靠 APS／ERP，不是生成式 AI。
  • 文件很少、很短：直接整份放進提示就好，不用建索引。
  • 不能外流的機密：不放，或改用地端。
• 比喻：螺絲起子很好用，但不能拿來鎖六角螺帽。

11｜收尾、教同事的三個小技巧、CTA（2 分）

• Casper 整理：生產線七站——切塊、向量、檢索、重排、組裝、生成、引用；答案品質由最弱的一站決定。
• 教同事的小技巧（簡短）：先示範「有掛知識庫 vs. 沒掛」的差別；讓大家養成點引用的習慣；動手做一個查規格的小助理，用十題考卷驗收。
• CTA：留言告訴我們，你們公司的知識庫最常卡在哪一站。

麥克風可以說／不要說

可以說：各段比喻與通用傳產例子；上集已查證的結論方向（不重念數字）。

不要說：「最佳切塊大小是 X 字」「加 reranker 準確率提升 X%」這類沒有出處的數字；把本機轉寫的影片說成原話；特定公司或人的名字；「RAG 可以完全消除幻覺」。

待 Max 補

• （選填）開場或第 7 段，一句自己遇過的轉檔錯誤實例；沒有就照稿講通用例子。