5a140faf1f
leo 2026-08-12:「我的 Logseq 又被覆蓋⋯⋯**不只是加上 journal,可能所有的檔案都加一個前後綴,比如「wiki」**。」 不是資料被蓋掉,是機器產出用了跟他一樣的命名空間(status.md、日期檔那些) ⇒ 他打開資料夾分不出哪些是自己的。**心理上的覆蓋跟實際覆蓋一樣糟。**
134 lines
5.5 KiB
Go
134 lines
5.5 KiB
Go
// extract_workersai.go — 走「自己雲端實例的 Workers AI」萃卡(t181,**免金鑰**)。
|
||
//
|
||
// 🔴 為什麼有這條路(leo 2026-08-04 列為最優先):
|
||
//
|
||
// 「daemon 的 AI 改用 workers AI」——「這是我的用戶**最大障礙**,
|
||
// 造成首輪測試用戶的**好評或惡評**」。
|
||
//
|
||
// 舊的 gemma 路要用戶自己去 Google 申請 API Key,實測撞到三種災難:
|
||
// 1. 完全不知道要去哪裡設定(封測者是台大資工碩士都卡住 ⇒ leo:「一般人就完蛋了」)
|
||
// 2. 拿到的金鑰所屬 Google 帳號被 flag ⇒ 403 PERMISSION_DENIED;換專案無效、
|
||
// 申訴要 billing account 而 free tier 進不去=死結
|
||
// 3. 52 檔全滅、零產出,還要把金鑰傳給別人實打才查得出真因
|
||
//
|
||
// ⇒ 本路徑改打**用戶自己雲端實例**的 `/portal/daemon/extract`,
|
||
//
|
||
// 那端用 `env.AI` binding(Workers AI)⇒ **完全不需要任何金鑰**。
|
||
// 用的是用戶自己 CF 帳號內建的 AI;他的 Google 帳號被封也不受影響。
|
||
//
|
||
// 架構上與 gemma 路完全對稱(leo 的判斷:「不論用 Claude/Gemini/Workers AI,
|
||
// 都是把原文經過 daemon 變成文字送到一個 API,**應該是同一件事**」——是):
|
||
//
|
||
// 讀原檔 → ConvertToText(本機轉檔)→ 送 API → 淨化 → 落卡
|
||
// ↑ 只有這一步不同
|
||
//
|
||
// ⚠️ 隱私邊界不變:送出去的是**已在本機轉成純文字的原稿**,回來的是知識卡;
|
||
// 原始檔案(docx/pdf/xlsx)仍然不出用戶的電腦。
|
||
package collector
|
||
|
||
import (
|
||
"bytes"
|
||
"encoding/json"
|
||
"fmt"
|
||
"io"
|
||
"net/http"
|
||
"os"
|
||
"path/filepath"
|
||
"strings"
|
||
"time"
|
||
)
|
||
|
||
// workersAIHTTP 逾時放寬到 90s:雲端要跑 LLM 生成,比一般 API 慢。
|
||
// (選型實測 llama-4-scout 約 2.4s,但長文+冷啟動要留餘裕。)
|
||
var workersAIHTTP = &http.Client{Timeout: 90 * time.Second}
|
||
|
||
// ExtractWithWorkersAI 讀原稿 → 送自己雲端的 /portal/daemon/extract 萃卡 → 卡片落地。
|
||
// cypherURL/apiKey 用的是 daemon 既有的連線憑證(送卡片上雲時同一把,見 direct.go)。
|
||
// 回傳產出的卡片相對路徑(單檔一卡),與 ExtractWithGemma 契約一致。
|
||
func ExtractWithWorkersAI(cypherURL, apiKey, absRoot, relPath string) ([]string, error) {
|
||
if strings.TrimSpace(cypherURL) == "" {
|
||
return nil, fmt.Errorf("workers-ai 萃取路需要 cypher_url(config)")
|
||
}
|
||
if strings.TrimSpace(apiKey) == "" {
|
||
return nil, fmt.Errorf("workers-ai 萃取路需要 api_key(config)")
|
||
}
|
||
|
||
raw, err := os.ReadFile(filepath.Join(absRoot, filepath.FromSlash(relPath)))
|
||
if err != nil {
|
||
return nil, fmt.Errorf("讀原稿失敗:%w", err)
|
||
}
|
||
|
||
// 本地轉檔層與 gemma 路共用同一份(t73/t16):任何格式在這裡變成純文字。
|
||
// **LLM 只會收到文字,永遠不會收到二進位**。刻意不吞錯——靜默略過正是 leo 撞過的病。
|
||
srcText, err := ConvertToText(relPath, raw)
|
||
if err != nil {
|
||
return nil, fmt.Errorf("轉檔失敗(%s):%w", relPath, err)
|
||
}
|
||
|
||
pageName := pageNameOf(relPath)
|
||
reqBody, _ := json.Marshal(map[string]string{
|
||
"page_name": pageName,
|
||
"text": srcText,
|
||
})
|
||
|
||
url := strings.TrimSuffix(strings.TrimSpace(cypherURL), "/") + "/portal/daemon/extract"
|
||
req, err := http.NewRequest(http.MethodPost, url, bytes.NewReader(reqBody))
|
||
if err != nil {
|
||
return nil, err
|
||
}
|
||
req.Header.Set("Content-Type", "application/json")
|
||
req.Header.Set("X-Arcrun-API-Key", apiKey)
|
||
|
||
resp, err := workersAIHTTP.Do(req)
|
||
if err != nil {
|
||
return nil, fmt.Errorf("連不上你的知識庫:%w", err)
|
||
}
|
||
defer resp.Body.Close()
|
||
body, _ := io.ReadAll(io.LimitReader(resp.Body, 4<<20))
|
||
|
||
if resp.StatusCode == http.StatusNotFound {
|
||
// 舊實例還沒有這條 route ⇒ 講人話,別讓用戶看到裸 404
|
||
return nil, fmt.Errorf("你的知識庫還是舊版(沒有雲端萃取功能)⇒ 請到 portal 按「立即更新」重裝一次")
|
||
}
|
||
if resp.StatusCode < 200 || resp.StatusCode >= 300 {
|
||
var e struct {
|
||
Error string `json:"error"`
|
||
}
|
||
_ = json.Unmarshal(body, &e)
|
||
if e.Error != "" {
|
||
return nil, fmt.Errorf("雲端萃取失敗(HTTP %d):%s", resp.StatusCode, e.Error)
|
||
}
|
||
return nil, fmt.Errorf("雲端萃取失敗(HTTP %d):%.200s", resp.StatusCode, string(body))
|
||
}
|
||
|
||
var parsed struct {
|
||
Success bool `json:"success"`
|
||
Card string `json:"card"`
|
||
Error string `json:"error"`
|
||
}
|
||
if err := json.Unmarshal(body, &parsed); err != nil {
|
||
return nil, fmt.Errorf("雲端回應解析失敗:%w", err)
|
||
}
|
||
if !parsed.Success || strings.TrimSpace(parsed.Card) == "" {
|
||
if parsed.Error != "" {
|
||
return nil, fmt.Errorf("雲端萃取失敗:%s", parsed.Error)
|
||
}
|
||
return nil, fmt.Errorf("雲端沒有回傳卡片內容")
|
||
}
|
||
|
||
// 與 gemma 路共用同一套淨化與落卡(卡片格式契約一致:第一行必須是「# <頁名>」)
|
||
card := cleanGemmaCard(parsed.Card, pageName)
|
||
if !strings.HasPrefix(card, "# ") {
|
||
return nil, fmt.Errorf("萃出內容不像卡片(未以 # 開頭):%.120s", card)
|
||
}
|
||
// arcrun-rag#60:路徑與檔名都由 cardRelFor 決定——非 vault 落 system-dev/wiki/cards/、
|
||
// vault 落隱藏目錄,且**檔名一律帶 arcrun- 前綴**(第二輪:光換目錄擋不住撞名,
|
||
// 因為 Logseq 的頁名是 basename)。落地前先查目標存不存在、不無條件覆蓋(safeWriteCard)。
|
||
cardRel := cardRelFor(absRoot, pageName)
|
||
dest := filepath.Join(absRoot, filepath.FromSlash(cardRel))
|
||
if err := safeWriteCard(dest, []byte(card)); err != nil {
|
||
return nil, err
|
||
}
|
||
return []string{cardRel}, nil
|
||
}
|