47580f4ba5
leo 2026-08-05:「有封測者在等,一直出錯」「已經等了幾天了」 ## 病(leo 實撞,log 實證) `小果被AFTEE詐貸.pdf` 雲端 401 失敗後,**manifest 完全不記失敗** ⇒ 下輪掃描又當「新檔」⇒ **1387 輪、跨 11 小時**,每輪 3.2~3.8 秒全在撞同一面牆; 且它排在佇列前面 ⇒ **整個資料夾的同步被一個壞檔拖住**。 leo:「原先萃檔案速度也快,現在花了十幾分才萃完」——**萃取沒變慢,慢的是重試** (log 的 `FOREACH 所有 5 項目均失敗` 證明卡早就萃好了)。 **這是獨立於 401 的架構缺陷**:401 修好了,下次換別的錯照樣卡死。 ## 修 · ManifestEntry 加 FailCount / LastFailAt / NextRetry · MarkFailed():退避階梯 1m→5m→15m→1h→6h(之後維持 6h) · ShouldRetry():退避窗口內跳過;連續失敗 8 次暫停自動重試 force(使用者按「立刻同步」)忽略退避與上限——**人明確要求不該被機器擋住** · MarkIngestedBy() 成功時清空失敗狀態(下次再壞從第一階重算) · direct.go 三個失敗出口都記退避(讀檔失敗/萃取失敗/上傳失敗) · retrySkipReason():跳過時說人話,不靜默(同 t195 燈號誠實原則) ## 🔴 真兇其實有兩層——第二層才是關鍵 只加退避欄位**沒有用**:`scan.go` 每輪都**重建** ManifestEntry, 原本只 carry IngestedHash/IngestedAt ⇒ 我寫進去的 fail_count 下一輪就被抹掉 ⇒ 退避永遠停在「第 1 次失敗」=等同沒有退避。 (順帶發現 ExtractedBy(t73「誰萃的」)原本也一直悄悄丟失。) ⇒ scan.go carry 補齊四個欄位,並留註解:**日後新增跨輪欄位必須加在這裡**。 ## 驗(真實跑,非只有單元測試) 單元測試 6 項全過(退避窗口/指數遞增 60/300/900/3600/21600/21600/ 上限停止/force 忽略/成功清空/壞檔不連累同輪其他檔) 實跑(cypher_url 指向不存在主機製造必失敗): 第 1 輪 failed 第 2 輪 skipped「上次失敗(第 1 次),1m0s 後重試」 第 3 輪 skipped(同上) 第 4 輪 skipped(同上) 模擬退避到期 → 確實重送、fail_count=2、退避升為 300s ✅ go test ./... 全綠;go vet 通過。 Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
107 lines
3.8 KiB
Go
107 lines
3.8 KiB
Go
// manifest_retry_test.go — t195 失敗退避(leo 2026-08-05:「有封測者在等,一直出錯」)。
|
|
//
|
|
// 這組測試守的是一個**架構缺陷**,不是某次的 401:
|
|
// 原本 manifest 只記成功不記失敗 ⇒ 每輪重掃都把失敗檔當「新檔」
|
|
// ⇒ 實測 1387 輪 × 11 小時撞同一面牆,且壞檔排在前面**拖住整個資料夾**。
|
|
// 401 修好了,下次換別的錯照樣卡死——所以要測的是「退避本身」。
|
|
package main
|
|
|
|
import "testing"
|
|
|
|
func newRetryTestManifest(path string) *Manifest {
|
|
return &Manifest{
|
|
FolderID: "t", Root: "/tmp/t",
|
|
Entries: map[string]*ManifestEntry{path: {ContentHash: "h1", Size: 1, Mtime: 1}},
|
|
}
|
|
}
|
|
|
|
// 沒失敗過的檔行為與 t195 前一字不變。
|
|
func TestShouldRetry_NeverFailed(t *testing.T) {
|
|
m := newRetryTestManifest("a.pdf")
|
|
if !m.ShouldRetry("a.pdf", 1000, false) {
|
|
t.Fatal("沒失敗過的檔應該要送")
|
|
}
|
|
// manifest 裡沒有的檔(全新檔)也一樣要送
|
|
if !m.ShouldRetry("never-seen.pdf", 1000, false) {
|
|
t.Fatal("全新檔應該要送")
|
|
}
|
|
}
|
|
|
|
// 核心止血:失敗後在退避窗口內不再重試。
|
|
func TestShouldRetry_BackoffWindow(t *testing.T) {
|
|
m := newRetryTestManifest("a.pdf")
|
|
m.MarkFailed("a.pdf", 1000) // 第 1 次失敗 → 退避 60s
|
|
|
|
if m.ShouldRetry("a.pdf", 1030, false) {
|
|
t.Fatal("退避窗口內(+30s)不該重試——這正是 1387 輪的病根")
|
|
}
|
|
if !m.ShouldRetry("a.pdf", 1060, false) {
|
|
t.Fatal("退避結束(+60s)應該要重試")
|
|
}
|
|
}
|
|
|
|
// 退避要遞增,不是固定間隔(否則壞檔仍會高頻撞牆)。
|
|
func TestMarkFailed_ExponentialBackoff(t *testing.T) {
|
|
m := newRetryTestManifest("a.pdf")
|
|
want := []int64{60, 300, 900, 3600, 21600, 21600} // 1m,5m,15m,1h,6h,之後維持 6h
|
|
at := int64(1000)
|
|
for i, w := range want {
|
|
m.MarkFailed("a.pdf", at)
|
|
got := m.Entries["a.pdf"].NextRetry - at
|
|
if got != w {
|
|
t.Fatalf("第 %d 次失敗:退避 %ds,預期 %ds", i+1, got, w)
|
|
}
|
|
}
|
|
}
|
|
|
|
// 連續失敗達上限 → 暫停自動重試(不再永遠佔用每一輪)。
|
|
func TestShouldRetry_MaxFailStops(t *testing.T) {
|
|
m := newRetryTestManifest("a.pdf")
|
|
at := int64(1000)
|
|
for i := 0; i < MaxFailBeforeSkip; i++ {
|
|
m.MarkFailed("a.pdf", at)
|
|
}
|
|
// 就算等再久也不自動重試
|
|
if m.ShouldRetry("a.pdf", at+999999, false) {
|
|
t.Fatalf("連續失敗 %d 次後應暫停自動重試", MaxFailBeforeSkip)
|
|
}
|
|
// 但使用者按「立刻同步」仍要送——人明確要求不該被機器退避擋住
|
|
if !m.ShouldRetry("a.pdf", at+1, true) {
|
|
t.Fatal("force(立刻同步)應忽略退避與上限")
|
|
}
|
|
}
|
|
|
|
// 成功後要清掉失敗狀態,否則下次再壞會從高階退避起跳(等太久)。
|
|
func TestMarkIngested_ResetsFailState(t *testing.T) {
|
|
m := newRetryTestManifest("a.pdf")
|
|
m.MarkFailed("a.pdf", 1000)
|
|
m.MarkFailed("a.pdf", 1100)
|
|
if m.Entries["a.pdf"].FailCount != 2 {
|
|
t.Fatal("失敗次數應累計")
|
|
}
|
|
|
|
m.MarkIngestedBy("a.pdf", "h1", 1200, "gemma")
|
|
e := m.Entries["a.pdf"]
|
|
if e.FailCount != 0 || e.NextRetry != 0 || e.LastFailAt != 0 {
|
|
t.Fatalf("成功後應清空失敗狀態,got FailCount=%d NextRetry=%d", e.FailCount, e.NextRetry)
|
|
}
|
|
// 清空後立刻可再送
|
|
if !m.ShouldRetry("a.pdf", 1201, false) {
|
|
t.Fatal("成功後應恢復可送")
|
|
}
|
|
}
|
|
|
|
// 壞檔不該擋住同一輪的其他檔(leo 實撞:整個資料夾被一個 PDF 拖住)。
|
|
func TestShouldRetry_OtherFilesUnaffected(t *testing.T) {
|
|
m := newRetryTestManifest("bad.pdf")
|
|
m.Entries["good.md"] = &ManifestEntry{ContentHash: "h2", Size: 1, Mtime: 1}
|
|
m.MarkFailed("bad.pdf", 1000)
|
|
|
|
if m.ShouldRetry("bad.pdf", 1010, false) {
|
|
t.Fatal("壞檔應在退避中")
|
|
}
|
|
if !m.ShouldRetry("good.md", 1010, false) {
|
|
t.Fatal("同一輪的其他檔不該被壞檔連累——這是「拖住整個佇列」的正解")
|
|
}
|
|
}
|