Skip to content

harness:独立评审试行与评审校准(阶段二 P7,T006) - #63

Merged
SnowsonZ merged 3 commits into
mainfrom
task/harness-p7-review
Sep 28, 2026
Merged

SnowsonZ merged 3 commits into
mainfrom
task/harness-p7-review

Conversation

@Snowson

@Snowson Snowson commented Sep 28, 2026

Copy link
Copy Markdown
Collaborator

任务

  • 任务书:docs/plans/task-006-independent-review.md(T006,K7,随本 PR 提交:设计方自行实现,方案 B)
  • 目标终态:R2 以上的 PR 由非设计方在只读环境评审,结论以固定格式评论到 PR 供用户参考;评审方的可信度在校准集上量出(TPR、TNR)并入库。
  • 对应验收编号:不挂规格(护栏);验收表见任务书
  • 非目标:评审结论不替代用户审批、不参与自动合并;OpenCode 评审方(本机无界面运行卡在初始化,待排查)
  • 待办(docs/plans/backlog.md):B27 改为「3 个 R2 PR 试行」;按攒批关闭 B30(定时会延迟但生效)、B11(gpt-6-sol 已可用)

校准结果(evals/review/results/2026-09-28-pi.json,Pi + glm-5.3)

样本 数量 结果
已知有问题(回放用例在 main 上重新注入) 41 全部判不通过,TPR 1.0
已知良好(合并后未发现问题的 PR) 15 无一判不通过,TNR 1.0;其中 12 个「需用户验收」、3 个通过

局限:问题样本的 PR 描述统一写「行为不变」而 diff 改了行为,识破偏容易,TPR 偏乐观;评审方偏保守,真实 PR 多推回用户确认。

过程中发现并修复

  • 评审方失败被当成结论:Codex 额度用尽、GLM 429 限流时曾记为「需用户验收」,会虚高 TNR。现记为「评审失败」,不评论为结论、不计入校准。
  • 校准只在结尾写盘:改为逐个样本落盘,--resume 续跑,--jobs 并行(GLM 限流下 3 路可行、12 路被拒),连续失败 3 次即停。

证据

  • CI 运行(当前 head):见本 PR checks
  • 风险等级与修复证据:见 harness job summary(机器生成)

需要人工验收的部分

🤖 Generated with Claude Code

Snowson and others added 2 commits September 28, 2026 22:52
- 新增 harness/review.py、review_prompt.md:非设计方在只读评审工作区评审 R2 以上 PR(只看任务书、PR 描述、
  diff 与证据包),结论以固定格式评论到 PR;评审方 Pi(默认,glm-5.3)、Codex(gpt-6-sol、max)、Claude Code;
  与执行方同宿主时标出;评审方失败(报错、超时、额度或限流)记为评审失败,不评论为结论、不计入校准
- 校准集 evals/review/samples.json(回放用例重新注入的问题改动 + 已知良好 PR),calibrate 逐个落盘、
  --resume 续跑、--jobs 并行、连续失败即停;2026-09-28 Pi 校准结果入库(56 个样本,TPR 1.0、TNR 1.0,局限见规范)
- auto-merge 对 R2 以上 PR 打 needs-independent-review;bin/dispatch review 子命令
- run_check:任务书随本 PR 提交视为设计方自行实现,不要求运行记录(用户决定方案 B);任务书 T006 随本 PR
- 规范、PR 模板、harness README、待办同步(B27 改为 3 个 PR 试行;攒批关闭 B30、B11)

Task: T006
Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
Task: T006
Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
规范 §6 保留 P7 与 P8 两行验证状态;待办 B29 已由 #62 关闭,B27 保留本 PR 的改写。

Task: T006
Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
@SnowsonZ
SnowsonZ merged commit a72436f into main Sep 28, 2026
3 checks passed
SnowsonZ added a commit that referenced this pull request Sep 28, 2026
harness:补上 #63 漏合的提交;评审方只读锁定与后台自动评审(T007)
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants