针对基准测试迭代优化系统 prompt
何时使用: 你有一个 prompt、一个基准测试,以及等待循环的耐心。
步骤
-
设定目标Use autoresearch. Goal: maximize score from /bench/run.sh on prompt at /prompts/system.md. Budget 30 iterations.✓ 已复制→ 循环启动;第一个提案已生成
-
查看追踪日志Show me iterations 5–10 with deltas.✓ 已复制→ 每轮迭代的分数变化追踪;保留/丢弃已标记
-
提前终止If 3 consecutive iterations fail to improve > 1%, stop and report best.✓ 已复制→ 收敛守卫触发;最佳 prompt 已报告
结果: 更好的 prompt,并附有解释原因的追踪记录。
注意事项
- 验证器可被规避——分数升高但质量未改善 — 添加健全性检查验证器(LLM 评判或留出集)
搭配使用: filesystem