Leo
a594decb78
2026-08-23 雲端驗收連續三次被這道閘誤攔，三次都不是宣告意圖：
① 否認自己有下一步 ②引用閘自己的訊息 ③貼閘自己的正則原始碼舉報 bug。
而訊息教人走的「選項③：說明它在等什麼」，程式碼裡根本沒有那條分支
——唯一走得通的路是不寫那三個字，正是同一則訊息明文禁止的動作。
四個真兇，沒有一個是「例外沒列夠」：
(a) DECL 會匹配裸的「下一步」三個字（每一節都可選 ⇒ 退化成關鍵字）
⇒ 收緊：每一條 alternative 都必須接到動作動詞才算命中
(b) 只剝 > 引言與長「」，不認 code fence 與行內 code ⇒ 引用被當成主張
⇒ 引用性標記整段換成哨兵（不是刪掉）：內層宣告消失、外層句構留著
——刪掉正是 08-17 漏掉「回『規劃』我就派人」的原因，兩個方向一起修
(c) 取 blocks_text[-1]，但那則文字後面可能還有 tool_use ⇒ 宣告其實兌現了
⇒ 只看「最後一個動作之後」的文字；收尾在動作上就不觸發
(d) 訊息承諾的出路只有兩條真的存在
⇒ 出路③ 給一個機械形式 ⏸ 等：<在等什麼>（白名單標記，要刻意寫，留痕）
方向刻意與「再加幾個關鍵字例外」相反——例外清單會越加越長、越長越誤攔。
守 leo 的封路哲學：紅線寫得越細，命中關鍵字的機率越高 ⇒ 那些閘在懲罰謹慎。
順手：擋下與放行都留痕（InkStoneCo#48：只記擋下的話分母未知）；
log 目錄不在時安靜跳過，不再噴 redirect 錯誤到 stderr。
測試 hooks/tests/factory-idle-guard.test.sh 27 向，誤攔與漏攔兩個方向都測：
舊版 18/27（9 敗）→ 新版 27/27。
Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
176 lines
7.4 KiB
Bash
Executable File
176 lines
7.4 KiB
Bash
Executable File
#!/usr/bin/env bash
|
||
# factory-idle-guard.sh 的迴歸測試（inkstone/ISEP#30）。
|
||
#
|
||
# 來由：2026-08-23 雲端驗收連續三次被這道閘誤攔，三次都不是宣告意圖——
|
||
# ① 「那句是等你，不是我的下一步」 ← 在否認自己有下一步
|
||
# ② 「這不是『下一步我要做 X』」 ← 引用閘自己的訊息來說明沒在做
|
||
# ③ 貼出閘自己的正則原始碼來舉報這個 bug ← code block 裡的引用也被當成宣告
|
||
# 而閘的訊息教人走「選項③：改寫那句話，說明它在等什麼」，程式碼裡卻沒有那條分支。
|
||
#
|
||
# 本檔的兩個方向都要有證據（誤攔與漏攔都要測）：
|
||
# A 群「該放行」——上面三種誤攔案例 + 既有放行路徑不准變鬆的回歸
|
||
# B 群「該擋」 ——真的宣告了未來動作、且這回合沒按下任何 trigger
|
||
# C 群「訊息承諾的出路真的走得通」——訊息裡列的每一條，各一個實例
|
||
#
|
||
# 用法：hooks/tests/factory-idle-guard.test.sh [hooks/factory-idle-guard.sh 的路徑]
|
||
# 🔴 全程在一個乾淨的 TMP 底下造假 transcript，跑完自己清；不碰任何真 repo、不打網路。
|
||
# （CLAUDE_PROJECT_DIR 指向沒有 gitea remote 的 TMP ⇒ 副閘拿不到 token，直接 exit 0，
|
||
# 所以本檔測的一律是主閘。）
|
||
|
||
set -u
|
||
HOOK="${1:-$(cd "$(dirname "${BASH_SOURCE[0]}")/.." && pwd)/factory-idle-guard.sh}"
|
||
TMP=$(mktemp -d)
|
||
trap 'rm -rf "$TMP"' EXIT
|
||
|
||
PASS=0; FAIL=0
|
||
N=0
|
||
|
||
# mk <transcript 路徑> <block spec>...
|
||
# block spec：`T:<文字>` ＝ assistant 的文字段；`U:<工具名>` ＝ assistant 的 tool_use
|
||
mk() {
|
||
python3 - "$@" <<'PY'
|
||
import json, sys
|
||
path, specs = sys.argv[1], sys.argv[2:]
|
||
rows = [{"type": "user", "message": {"content": [{"type": "text", "text": "【工單】去辦"}]}}]
|
||
blocks = []
|
||
for s in specs:
|
||
k, v = s.split(":", 1)
|
||
blocks.append({"type": "text", "text": v} if k == "T"
|
||
else {"type": "tool_use", "name": v, "id": "t1", "input": {}})
|
||
rows.append({"type": "assistant", "message": {"content": blocks}})
|
||
with open(path, "w") as f:
|
||
for r in rows:
|
||
f.write(json.dumps(r, ensure_ascii=False) + "\n")
|
||
PY
|
||
}
|
||
|
||
# t <期望 exit> <說明> <block spec>...
|
||
t() {
|
||
want="$1"; desc="$2"; shift 2
|
||
N=$((N+1))
|
||
tr="$TMP/tr-$N.jsonl"
|
||
mk "$tr" "$@"
|
||
out=$(printf '{"transcript_path":"%s"}' "$tr" \
|
||
| CLAUDE_PROJECT_DIR="$TMP" sh "$HOOK" 2>&1); rc=$?
|
||
if [ "$rc" -eq "$want" ]; then
|
||
printf ' ✅ %s\n' "$desc"; PASS=$((PASS+1))
|
||
else
|
||
printf ' ❌ %s —— 期望 exit=%s，實得 exit=%s\n' "$desc" "$want" "$rc"
|
||
printf '%s\n' "$out" | sed -n '1,6p' | sed 's/^/ /'
|
||
FAIL=$((FAIL+1))
|
||
fi
|
||
}
|
||
|
||
echo "── A 群：該放行（2026-08-23 雲端三次誤攔的原形狀）─────────────────"
|
||
|
||
t 0 "① 否認自己有下一步（『那句是等你，不是我的下一步』）" \
|
||
'T:我看完了。那句是等你，不是我的下一步。'
|
||
|
||
t 0 "① 長版：連同被否認的原句一起引用" \
|
||
'T:你貼的那行「回覆後我就繼續」是等你，不是我的下一步。'
|
||
|
||
t 0 "② 引用閘自己的訊息來說明沒在做" \
|
||
'T:這不是『下一步我要做 X』，是在說明那道閘認錯了對象。'
|
||
|
||
t 0 "③ code block 裡貼閘自己的正則原始碼（舉報 bug）" \
|
||
'T:誤攔的真兇是這段：
|
||
```
|
||
r"(下一步(我|就是|是)?[:：]?\s*(?!不是宣告)|接下來我|我(現在|接著|等下|等一下)(就)?(去|來|做|派|審|跑)"
|
||
```
|
||
它連裸的「下一步」三個字都吃。'
|
||
|
||
t 0 "③ 行內 code 貼同一段正則" \
|
||
'T:問題出在 `接下來我` 這個 alternative 沒有要求後面接動詞。'
|
||
|
||
t 0 "引用 leo 的話（blockquote）含宣告字樣" \
|
||
'T:> 下一步我去把那支閘修好，你不要插手。
|
||
|
||
以上是他八月十六日的原話，我引來說明這道閘的規格。'
|
||
|
||
t 0 "User Story 票名（身為…我要…我才…）不是宣告" \
|
||
'T:我把票名寫成：身為總管，我要把散落的分支收掉整理好，我才不會每天重數一次。'
|
||
|
||
echo
|
||
echo "── A 群：既有放行路徑，不准變鬆（迴歸）─────────────────────────"
|
||
|
||
t 0 "純對話回合，沒有任何宣告" \
|
||
'T:這道閘的問題在於它把引用當成宣告，量錯了對象。'
|
||
|
||
t 0 "宣告了，但這個回合真的呼叫了 Agent（＝按下 trigger）" \
|
||
'T:下一步我去把 sdd-guard 的誤攔補上。' 'U:Agent'
|
||
|
||
t 0 "宣告了，但這個回合真的呼叫了 Task" \
|
||
'T:接下來我會去補測試。' 'U:Task'
|
||
|
||
t 0 "宣告句帶票號指涉（已經在別人手上）" \
|
||
'T:下一步我去把那支閘補好——已經派給 inkstone/ISEP#30，證據在 comment 3970。'
|
||
|
||
t 0 "宣告之後真的動手了（文字後面還有工具呼叫）" \
|
||
'T:先讀原始碼，接下來我會去補測試。' 'U:Read'
|
||
|
||
echo
|
||
echo "── B 群：該擋（真的宣告了未來動作，且這回合沒按下任何 trigger）────"
|
||
|
||
t 2 "『下一步我去把 X 補上』，無派工無票號" \
|
||
'T:我看完了。下一步我去把那支閘的誤攔補上。'
|
||
|
||
t 2 "『接下來我會去補測試』" \
|
||
'T:目前狀況清楚了。接下來我會去補測試。'
|
||
|
||
t 2 "把請示寫成條件句（2026-08-17 leo 實撞那族）" \
|
||
'T:回「規劃」我就派人盤這份計畫。'
|
||
|
||
t 2 "『我等你確認』——空手停在等人身上" \
|
||
'T:我等你確認。'
|
||
|
||
t 2 "『我現在就去跑一遍』" \
|
||
'T:我現在就去跑一遍那批測試。'
|
||
|
||
t 2 "『確認後我才動』" \
|
||
'T:核准後我才去改那支閘。'
|
||
|
||
echo
|
||
echo "── C 群：訊息承諾的每一條出路，都要真的走得通 ─────────────────"
|
||
|
||
t 0 "出路①：這個回合直接呼叫 Agent 派出去" \
|
||
'T:下一步我去把那支閘補好。' 'U:Agent'
|
||
|
||
t 0 "出路②：把票號寫進那句話" \
|
||
'T:下一步我去把那支閘補好（已派給 inkstone/ISEP#30）。'
|
||
|
||
t 0 "出路③：改寫那句話，用 ⏸ 等： 說明它在等什麼" \
|
||
'T:⏸ 等：leo 親手跑 scripts/github-arm.sh 解保險（D20 人閘，不是我能自己按的）。
|
||
|
||
在那之前我等你確認，這件事我不自己動。'
|
||
|
||
t 0 "出路③：宣告 ＋ 標記同時存在也放行（標記說明了它在等什麼）" \
|
||
'T:那批 workflow 要重打 bundle，下一步我去重打。⏸ 等：arcrun-rag 那條 PR 先併，前置沒解除。'
|
||
|
||
t 0 "出路④：這個回合收尾在動作上（最後一個工具呼叫之後沒有文字）" \
|
||
'T:下一步我去把那支閘補好。' 'U:Edit'
|
||
|
||
echo
|
||
echo "── 出路③ 的反面：沒寫標記就照樣擋（不准靠刪掉那句話矇混）───────"
|
||
|
||
t 2 "同一句話拿掉 ⏸ 等： 標記 ⇒ 擋" \
|
||
'T:那批 workflow 要重打 bundle。我等你確認，這件事我不自己動。'
|
||
|
||
echo
|
||
echo "── 壞輸入不准亂擋（fail-open）────────────────────────────────"
|
||
|
||
n_bad=0
|
||
for payload in '{}' '{"transcript_path":"/nonexistent/xx.jsonl"}' 'not-json'; do
|
||
N=$((N+1))
|
||
printf '%s' "$payload" | CLAUDE_PROJECT_DIR="$TMP" sh "$HOOK" >/dev/null 2>&1; rc=$?
|
||
if [ "$rc" -eq 0 ]; then
|
||
printf ' ✅ 壞輸入 %-34s ⇒ exit=0\n' "$payload"; PASS=$((PASS+1))
|
||
else
|
||
printf ' ❌ 壞輸入 %-34s ⇒ exit=%s（期望 0）\n' "$payload" "$rc"; FAIL=$((FAIL+1))
|
||
fi
|
||
n_bad=$((n_bad+1))
|
||
done
|
||
|
||
echo
|
||
echo "────── 通過 $PASS ／ 失敗 $FAIL （共 $N 向）"
|
||
[ "$FAIL" -eq 0 ]
|