상위 로드맵: #16. 기준: F1 PR #14 + 수정 PR #15 (4ed1ff8). 구현 전 PR #15의 병합 결과와 최신 dev를 대조한다.
User problem
구현·저장·재생 성공과 Moirai/MaleCNS의 추가 효용은 별도 주장이다. 합의율이나 모델 자기평가만으로 개선 여부를 판단하면 원래 목표와 누출 조건을 놓친다.
Desired outcome
동일 총자원·고정 입력에서 대안과 비교하고, 한 프롬프트 변경의 가설을 독립 검증해 채택/보류/기각 및 되돌릴 revision을 남긴다.
Dependencies
Scope
- NEW/EXTEND scripts/qa/moirai-evals/: 고정 사례·dev/holdout 분리·순서 교대·반복·wire capture·outcome·usage·elapsed·terminationReason을 기록한다. 학습 상태·기억·snapshot을 비교군별로 격리한다.
- 비교군: 같은 고유 목표의 구조화 메커니즘 vs 프롬프트3+1, 같은 목표 반복3+1, 같은 총자원 단일 에이전트 재검토; 회로 기여는 일반 순환망·문맥 밴딧·재배선 대조를 분리한다.
- D20 루프를 수행한다: 실패 고정 → A/B/C 또는 비프롬프트 결함 분류 → 기각 가능한 가설 → 한 층 최소 후보 → 실제 전송/재개/압축 확인 → 짝 개발 비교 → 고정 검증 → revision·적용/되돌리기 기록.
- 정답은 명시적 기대·고정 합성 상태·실제 owner 결과에서 얻는다. 결정적 검사를 먼저 쓰고 독립 judge에는 후보명·수정 의도·기대 승자를 숨긴다.
- 완전한 쌍의 승/패/동점과 전체 실행의 누락·중복·장애·unscorable 분모를 분리한다. 결과를 보고 수정한 holdout은 dev로 이동한다.
Acceptance criteria
Alternatives and constraints
평가 harness와 F2 단면의 개발 사례 작업은 F2-5 뒤 F3와 병행 가능하다. LIFE 포함 최종 평가와 제품 적용은 각각 F3/F4-1 결과를 기다린다. 자동 프롬프트 탐색·통계 인증·유료 호출은 이슈 생성으로 실행하지 않는다.
017 비교 가설 · D20 개선 루프 · 030 수용 게이트
상위 로드맵: #16. 기준: F1 PR #14 + 수정 PR #15 (
4ed1ff8). 구현 전 PR #15의 병합 결과와 최신dev를 대조한다.User problem
구현·저장·재생 성공과 Moirai/MaleCNS의 추가 효용은 별도 주장이다. 합의율이나 모델 자기평가만으로 개선 여부를 판단하면 원래 목표와 누출 조건을 놓친다.
Desired outcome
동일 총자원·고정 입력에서 대안과 비교하고, 한 프롬프트 변경의 가설을 독립 검증해 채택/보류/기각 및 되돌릴 revision을 남긴다.
Dependencies
Scope
Acceptance criteria
Alternatives and constraints
평가 harness와 F2 단면의 개발 사례 작업은 F2-5 뒤 F3와 병행 가능하다. LIFE 포함 최종 평가와 제품 적용은 각각 F3/F4-1 결과를 기다린다. 자동 프롬프트 탐색·통계 인증·유료 호출은 이슈 생성으로 실행하지 않는다.
017 비교 가설 · D20 개선 루프 · 030 수용 게이트