針對基準測試迭代調優系統提示
何時使用: 你有一個提示、一個基準測試,以及進行迴圈的耐心。
步驟
-
框架目標Use autoresearch. Goal: maximize score from /bench/run.sh on prompt at /prompts/system.md. Budget 30 iterations.✓ 已複製→ 迴圈開始;第一個提案已提出
-
查看追蹤記錄Show me iterations 5–10 with deltas.✓ 已複製→ 每次迭代含分數的追蹤記錄;保留/捨棄已標記
-
提前停止If 3 consecutive iterations fail to improve > 1%, stop and report best.✓ 已複製→ 收斂守衛觸發;最佳提示已回報
結果: 更好的提示,並附有解釋原因的追蹤記錄。
注意事項
- 驗證器可被博弈——分數上升但品質未改善 — 加入健全性核查驗證器(LLM 裁判或保留集)
搭配使用: filesystem