精準的AI對話 RAG 入門：讓 AI 開書看參考來源，先找資料再回答問題

你公司用的 AI，像是在閉書考，還是開書考？

最近遇到一位客人詢問的情境- 假設你問一位剛到職的新人業務 Bella：「我們公司最新的報價流程是什麼？」他還沒看過公司文件，卻立刻回答得很有自信。你敢直接照著做嗎？

AI 也可能遇到類似的問題：它可以根據訓練時學到的資訊回答，卻不一定知道公司剛更新的規定，也看不到沒有提供給它的內部文件。

讓它先「翻書」，再回答。這個做法，就叫做 RAG：檢索增強生成。

一個每天都要找文件的業務

想像一家台灣電子零組件公司，業務小林每天都會遇到同事問：「客戶詢價後，報價單要經過誰確認？」「這個產品的最新交期，要去哪裡查？」「客戶要求特殊付款條件，需要找誰核准？」

答案其實都在公司內部，但散落在 PDF、產品手冊、SOP 和不同版本的文件裡。小林常常得一份一份打開，找半天才找到。

如果公司建立了一套 RAG 問答系統，流程就可以變成：

1. 小林輸入問題。
2. 搜尋工具到已接入、且小林有權限閱讀的文件中，找出相關段落。
3. 系統把找到的內容提供給 AI。
4. AI 參考這些內容，整理成容易理解的回答。
5. 如果系統有設計來源功能，小林還可以點回原始文件確認。

保護隱私: 小林與公司是服務的客戶假想情境，用來說明實際可能遇到的工作流程。

RAG 就像開書考

• 公司的文件庫，像是參考書。
• 搜尋工具，像是幫忙翻書、找重點的助理。
• AI 模型，像是閱讀參考資料後整理答案的考生。
• 員工，則是提出問題、確認答案的人。

AWS 對 RAG 的說明也指出，這種方法讓模型在產生回答前，參考訓練資料之外的知識來源，例如企業內部知識庫。

不過，開書考不代表一定考對。

如果參考書是舊版的、搜尋找錯段落，或 AI 理解錯誤，答案仍然可能有問題。

所以 RAG 可以降低部分瞎掰風險、幫助回答有資料依據，但不能保證完全沒有幻覺。若要回答最新資訊，還要確保資料來源真的有更新，並且已經接入搜尋系統。

那它跟 AI Agent 又有什麼關係？

你可以把 Agent 想成一位會安排工作的助理，而 RAG 搜尋是它可以使用的一項工具。

例如，小林說：「幫我確認這個客戶的報價流程，整理一份待辦事項。」

Agent 可能會先判斷需要查公司 SOP，於是呼叫文件搜尋工具；拿到相關內容後，再整理出待辦事項。

如果資料不足，它也可以再搜尋一次，或告訴小林：「目前找不到足夠依據，需要人工確認。」

這類由代理決定何時查、查什麼、是否需要再查的做法，常被稱為 Agentic RAG。實際流程仍取決於系統設計。

但有一個重點：AI 能搜尋公司文件之前，企業還是要先管好文件權限。

業務能查的內容，不代表所有人都能查；機密報價、人事資料與客戶合約，也不應因為接上 AI，就開放給所有使用者。

從一個常被問的問題開始

對中小企業來說，導入 RAG 不一定要一開始就整理全公司的文件。可以先挑一個常被重複詢問的場景：

• 產品規格與維修手冊查詢。
• 業務詢價與報價 SOP。
• 新進員工常見問題。
• 客服 FAQ 與轉真人規則。

先整理一小批版本清楚、權限明確的文件，找幾位實際使用者測試：AI 找得對嗎？答案看得懂嗎？能不能找到來源？不知道時會不會坦白說不知道？

確認這些問題，再決定要不要擴大。

好的 RAG，不只是讓 AI 回答得更快，也要讓人知道答案從哪裡來。

如果你正在思考如何把公司文件變成 AI 知識庫，歡迎填寫 AI 合作需求表單，寫下 **「RAG 知識庫」**和你最想改善的查詢流程與最有價值的流程與模式。我們可以先討倫從一個部門、一批文件開始，找出最值得驗證的第一步。

參考資料

• AWS：什麼是檢索增強生成（RAG）？
• AWS：Agentic AI 定義