Arcrun/registry/skills/rag_with_arcrun.md

Skill: RAG with Arcrun

何時用這個 skill

用戶說：

• 「我有一堆 X 資料，想問問題它幫我答」
• 「Claude 不知道我的私人資料，怎麼讓它知道」
• 「客服 bot 看我們的 docs 回答」
• 「企業內部知識庫問答」

三步 RAG 架構

用戶問 → 搜尋 → 把 context 餵 LLM → 回答

arcrun 對應：

flow:
  - "input >> ON_SUCCESS >> search"      # KBDB semantic search
  - "search >> ON_SUCCESS >> answer"     # claude_api 帶 context

完整範本見 arcrun_search_examples('rag') → rag-search-answer。

5 個關鍵決定

1. 資料怎麼進 KBDB？

源頭決定品質：

• PDF / 文件 → 用 pdf-to-blocks workflow（自動 chunk + embedding）
• Logseq / Notion / 手記 → 寫腳本 ingest 或讓 mira 平台處理
• Web crawl → http_request → kbdb_ingest
• 每天 RSS → cron + kbdb_ingest

關鍵：

• 用 source 欄位區分來源（之後 query 可篩 source）
• 用 user_id 區分 namespace（多租戶或多 domain）
• chunk 大小：500-1000 字最佳（太小無 context，太大稀釋 relevance）

2. search 怎麼設？

search:
  component: kbdb_search
  api_key: "{{api_key}}"
  query: "{{input.question}}"
  topK: 5                          # 3-10 都合理
  user_id: "{{input.user_id}}"     # 限定 namespace（多租戶必要）

進階參數：

• source — 限定來源（只查 "pdf:" 或 "wiki:"）
• tag — 限定 tag（"verified" / "policy" / 等）
• semantic search 走 embedding，query 用自然語言即可，不用打對 keyword

3. prompt 怎麼餵 context？

關鍵：明確標 context 邊界 + 給 LLM 拒絕回答的權力

你是知識庫助手。**只用 context 內的資訊**回答問題。

規則：
1. context 沒講的，老實說「資料庫裡查不到」
2. 引用時標 [block_id]，方便用戶追原始
3. 不要外推、不要編造

Context:
{{search.results}}

問題：{{input.question}}

回答：

不給 LLM「拒絕的權力」，它會亂猜。

4. 引用怎麼顯示？

進階：用 _recipe_output_format: json 讓 claude 回結構化：

{
  "answer": "...",
  "citations": [{"block_id": "abc-123", "snippet": "..."}],
  "confidence": "high"
}

前端可 render 成可點擊的 citation 連結。

5. 怎麼測準度？

arcrun_search_examples('rag-eval') 暫無範例。手動：

1. 準備 N 個「黃金 QA pair」（問題 + 應有的答案）
2. 跑 workflow N 次，比對結果
3. 若準度 < 70%：先檢查 KBDB chunk 品質、再 tune topK、最後 tune prompt

常見陷阱

症狀	原因	解
答案不準	chunk 太大 / 太小	re-ingest 改 chunk size
答案編造	prompt 沒給拒絕權	prompt 加「不知道就說不知道」
找不到該找到的	semantic 不命中	換 query rewriting / 增 topK
答案太長	prompt 沒限制	prompt 加「答案 < 100 字」
慢	claude_api timeout	拉 timeout_ms 或減 context

進階變體

• 多輪 query rewriting：claude 先改寫 question → search → 答
• mix sources：KBDB + web search + DB query → merge
• cache：相同 question 的答案存 KBDB，下次 lookup hit 直接回（省 LLM call）
• conversational：傳 chat history 進 prompt，支援 follow-up
• filter-then-rerank：semantic search 撈 20 → claude rerank 取前 5 → 餵 final answer