Skip to content

Latest commit

 

History

History
702 lines (672 loc) · 54.3 KB

File metadata and controls

702 lines (672 loc) · 54.3 KB

MetaInfer v3 — 党项目流皋囟

䞀、党局架构鞟瞰

╔══════════════════════════════════════════════════════════════════════════╗
║                        MetaInfer v3 党局架构                              ║
╠══════════════════════════════════════════════════════════════════════════╣
║                                                                          ║
║   ┌──────────────────────────────────────────────────────────────┐     ║
║   │                    第 侀 层先验知识库                         │     ║
║   │                                                                │     ║
║   │  notebooks-cn/                                                 │     ║
║   │  ├── 00_contracts/     ← 11 䞪 API 契纊硬纊束人类确讀才胜改│     ║
║   │  ├── 00_overview/      ← 项目总览                              │     ║
║   │  ├── 01_framework_design/ ← 框架讟计文档                       │     ║
║   │  ├── 02_model_specifics/ ← 暡型族文档回路 B/C 可扩写        │     ║
║   │  ├── 03_operators/     ← 算子知识                              │     ║
║   │  ├── 04_parallel_strategies/ ← TP/EP 策略回路 B/C 可扩写    │     ║
║   │  ├── 05_inference_service/ ← 掚理服务                          │     ║
║   │  ├── 06_experience/    ← 调试经验回路 B/C 自劚远加          │     ║
║   │  └── 07_improvementPlan/ ← 䌘化方案回路 B/C 自劚远加        │     ║
║   │                                                                │     ║
║   │  AGENT_SKILL.md          ← 执行 SOP + 猖码铁埋                  │     ║
║   │  CLAUDE.md               ← 党局入口 + 启劚流皋 + spawn 协议     │     ║
║   │  scripts/                ← 28 䞪固定测试合纊只读䞍可修改   │     ║
║   └──────────────────────────────────────────────────────────────┘     ║
║                              │  │                                       ║
║              回路 B 写入 ◄──┘  └──► 读取                               ║
║              回路 C 写入 ◄──┘                                           ║
║                                                                          ║
║   ┌──────────────────────────────────────────────────────────────┐     ║
║   │                    第 二 层Agent 角色矀                       │     ║
║   │                                                                │     ║
║   │  .claude/roles/                                                │     ║
║   │  ├── implementer-inference.md       ← 写代码䞍跑测试          │     ║
║   │  ├── spec-reviewer-inference.md     ← 契纊栞验䞍跑测试        │     ║
║   │  ├── verification-inference.md      ← 跑测试唯䞀宣刀 PASS     │     ║
║   │  ├── experiment-summarizer.md       ← 回路 C: 实验→知识        │     ║
║   │  ├── explorer.md                    ← 回路 B: 搜玢论文/HF/源码 │     ║
║   │  └── knowledge-consolidator.md      ← 回路 B: 实现→知识        │     ║
║   └──────────────────────────────────────────────────────────────┘     ║
║                                                                          ║
║   ┌──────────────────────────────────────────────────────────────┐     ║
║   │                    第 侉 层生成产物                           │     ║
║   │  engine/        ← 掚理框架kernels/ models/ framework/ tp_layers/│
║   │  llm_engine.py  ← 匕擎䞻埪环                                    │     ║
║   │  openai_tp_server.py ← OpenAI API 服务                          │     ║
║   └──────────────────────────────────────────────────────────────┘     ║
║                                                                          ║
║   ┌──────────────────────────────────────────────────────────────┐     ║
║   │                    第 四 层猖排噚                             │     ║
║   │                                                                │     ║
║   │  master/          ← 回路 A: 性胜迭代KPI 驱劚无限埪环      │     ║
║   │  ├── MASTER.md        äž» Agent 行䞺定义                        │     ║
║   │  ├── state.json       迭代状态 + 基线 KPI                      │     ║
║   │  ├── decision-log.jsonl  裁决日志                              │     ║
║   │  ├── strategies/      每蜮策略文件                             │     ║
║   │  ├── results/         每蜮结果 + knowledge_delta.json          │     ║
║   │  └── scripts/call-sub-agent.sh                                │     ║
║   │                                                                │     ║
║   │  evolution/       ← 回路 B: 知识进化暡型芆盖驱劚收敛即止  │     ║
║   │  ├── EVOLUTION.md     进化猖排噚行䞺定义                        │     ║
║   │  ├── state.json       进化状态 + 匀源匀关                       │     ║
║   │  ├── decision-log.jsonl  进化裁决日志                           │     ║
║   │  ├── strategies/      进化策略文件                             │     ║
║   │  ├── results/         进化结果 + exploration_report.md         │     ║
║   │  └── scripts/call-evo-agent.sh                                │     ║
║   └──────────────────────────────────────────────────────────────┘     ║
║                                                                          ║
╚══════════════════════════════════════════════════════════════════════════╝

二、䞻入口决策树CLAUDE.md 启劚流皋

                          ┌──────────────────────┐
                          │  甚户蟓入              │
                          │  /phase-all           │
                          │  /phase5              │
                          │  /evolve <model>      │
                          │  或盎接描述任务        │
                          └──────────┬───────────┘
                                     │
                          ┌──────────▌───────────┐
                          │ Step 0: 环境配眮       │
                          │                        │
                          │ .env_agent_infer       │
                          │  ├── 存圚 → 加蜜       │
                          │  │   └── MODEL_DIR     │
                          │  │       匹配         │
                          │  │   ├── 是 → OK       │
                          │  │   └── 吊 → 问甚户   │
                          │  └── 䞍存圚 → 问甚户   │
                          │     (MODEL_DIR +       │
                          │      PYTHON_PATH)      │
                          │                        │
                          │ 自劚验证              │
                          │  ls config.json        │
                          │  python -c "import     │
                          │    torch"              │
                          └──────────┬───────────┘
                                     │
                          ┌──────────▌───────────┐
                          │ Step 1-3: 加蜜䞊䞋文   │
                          │                        │
                          │ 读 00_contracts/       │
                          │ 读 AGENT_SKILL.md      │
                          │ 讟眮 PYTHONPATH        │
                          └──────────┬───────────┘
                                     │
                          ┌──────────▌───────────┐
                          │ Step 4-5: 暡型分析     │
                          │                        │
                          │ 读 config.json:        │
                          │  architectures         │
                          │  num_heads             │
                          │  rope_scaling          │
                          │  ...                   │
                          │                        │
                          │ 蟓出                  │
                          │ "暡型路由结论: Dense"   │
                          │ 或                     │
                          │ "暡型路由结论: MLA+MoE" │
                          └──────────┬───────────┘
                                     │
                          ┌──────────▌───────────────────────┐
                          │ Step 6: 知识库芆盖检测 (CRITICAL)  │
                          │                                    │
                          │ 检查 model_specs.md                │
                          │  ├── 有该暡型参数                 │
                          │ 检查 02_model_specifics/           │
                          │  ├── 有该暡型文档                 │
                          │ 检查 00_contracts/                 │
                          │  ├── 架构类型契纊就绪             │
                          │                                    │
                          │     ┌─────────┐                   │
                          │     │ 党满足 │                   │
                          │     └────┬────┘                   │
                          │    是 ╱       ╲ 吊                │
                          │      ╱         ╲                  │
                          │     â–Œ           â–Œ                 │
                          │ ┌────────┐  ┌────────────────┐   │
                          │ │回路 A+C│  │回路 B: 进化路埄 │   │
                          │ │盎接构建│  │evolution/      │   │
                          │ └────────┘  │EVOLUTION.md    │   │
                          │             │先探玢再构建    │   │
                          │             └───────┬────────┘   │
                          │                     │            │
                          │              ┌──────▌────────┐   │
                          │              │ 进化成功      │   │
                          │              │ 知识库已曎新   │   │
                          │              └──────┬────────┘   │
                          │                     │ 是         │
                          │                     â–Œ            │
                          │              ┌────────────┐      │
                          │              │ 回到䞻流皋  │      │
                          │              │ 回路 A+C    │      │
                          │              └────────────┘      │
                          └────────────────┬─────────────────┘
                                           │
                                ┌──────────▌───────────┐
                                │ Step 7: 平台自劚检测   │
                                │                        │
                                │ torch.cuda.            │
                                │  get_device_name(0)    │
                                │                        │
                                │ NVIDIA → CustomAR+NCCL │
                                │ AMD    → RCCL fallback │
                                │ DCU    → comm fallback │
                                └──────────┬───────────┘
                                           │
                                ┌──────────▌───────────┐
                                │ Step 8: MEMORY 回溯   │
                                │                        │
                                │ 读 phase_report/       │
                                │ PHASE<N>_MEMORY.md    │
                                │ 重建前序䞊䞋文         │
                                └──────────┬───────────┘
                                           │
                                ┌──────────▌───────────┐
                                │ 进入构建/迭代流皋     │
                                │ (见䞋方回路诊囟)      │
                                └──────────────────────┘

䞉、回路 A成果路埄性胜迭代埪环

                ┌─────────────────────────────────┐
                │    master/MASTER.md              │
                │    äž» Agent诊断→决策→调床→比蟃  │
                └─────────────────────────────────┘

  ┌─────────────────────────────────────────────────────────────────────┐
  │                       无限埪环甚户退出才停                         │
  │                                                                      │
  │  ┌──────────┐   ┌──────────┐   ┌──────────┐   ┌──────────┐        │
  │  │ Step 1   │──▶│ Step 2   │──▶│ Step 3   │──▶│ Step 4   │        │
  │  │ 加蜜状态  │   │ 诊断     │   │ 写策略    │   │ 启劚子    │        │
  │  │          │   │          │   │          │   │ Agent    │        │
  │  │ state    │   │ KPI分析  │   │ strategy │   │          │        │
  │  │ .json    │   │ 瓶颈定䜍 │   │ -XXX.json│   │ ${CLAUDE_CLI} -p│        │
  │  └──────────┘   └──────────┘   └──────────┘   └─────┬────┘        │
  │                                                      │              │
  │     ┌────────────────────────────────────────────────┘              │
  │     │ call-sub-agent.sh 做的事:                                     │
  │     │                                                               │
  │     │  ┌─────────────────────────────────────────────────────┐     │
  │     │  │            子 Agent 内郚党新进皋无记忆           │     │
  │     │  │                                                      │     │
  │     │  │  读策略 + 知识库                                       │     │
  │     │  │     ↓                                                 │     │
  │     │  │  /phase-all (1→11 党量构建)                           │     │
  │     │  │     ↓                                                 │     │
  │     │  │  ┌──────────────┐                                     │     │
  │     │  │  │ implementer  │ ← 写 engine/ + llm_engine.py + ... │     │
  │     │  │  │ 只写䞍测     │                                     │     │
  │     │  │  │ → SUBMITTED  │                                     │     │
  │     │  │  └──────┬───────┘                                     │     │
  │     │  │         │                                              │     │
  │     │  │  ┌──────▌───────┐                                     │     │
  │     │  │  │spec-reviewer │ ← 逐条对照 00_contracts/            │     │
  │     │  │  │ 只审䞍测     │                                     │     │
  │     │  │  │ → PASS/FAIL  │                                     │     │
  │     │  │  └──────┬───────┘                                     │     │
  │     │  │         │ ✅ PASS                                      │     │
  │     │  │  ┌──────▌───────┐                                     │     │
  │     │  │  │ verification │ ← L0+L0.5+L0.6+L1+L2+L3            │     │
  │     │  │  │ 只测䞍改     │                                     │     │
  │     │  │  │ → PASS/FAIL  │                                     │     │
  │     │  │  └──────────────┘                                     │     │
  │     │  │                                                      │     │
  │     │  │  产出 → master/results/<ITER_ID>/                     │     │
  │     │  │         ├── benchmarks.jsonl                          │     │
  │     │  │         ├── AGGREGATE_REPORT.md                       │     │
  │     │  │         └── diagnostics_summary.json                  │     │
  │     │  └──────────────────────────────────────────────────────┘     │
  │     │                                                               │
  │     â–Œ                                                               │
  │  ┌──────────┐   ┌──────────┐   ┌──────────┐   ┌──────────┐        │
  │  │ Step 5   │──▶│ Step 6   │──▶│ Step 7   │──▶│ Step 8   │        │
  │  │ 提取KPI  │   │ 对比裁决  │   │ 展瀺对比  │   │ 持久化/   │        │
  │  │          │   │          │   │          │   │ 䞢匃      │        │
  │  │吞吐/TTFT │   │ADVANCE?  │   │ 衚栌+Δ%  │   │ADV→存代码│        │
  │  │/TPOT/    │   │ROLLBACK? │   │          │   │ROLL→枅空 │        │
  │  │greedy    │   │          │   │          │   │          │        │
  │  └──────────┘   └──────────┘   └──────────┘   └──────────┘        │
  │                                                      │              │
  │  ┌──────────┐                           ┌────────────▌──────────┐  │
  │  │ Step 10  │◄──────────────────────────│ Step 9                │  │
  │  │ 埪环     │                           │ 曎新状态               │  │
  │  │ 回到     │                           │ state.json            │  │
  │  │ Step 1   │                           │ decision-log.jsonl    │  │
  │  └──────────┘                           └────────────┬──────────┘  │
  │                                                      │              │
  │                   ┌──────────────────────────────────┘              │
  │                   │ only if ADVANCE                                  │
  │                   â–Œ                                                 │
  │  ┌──────────────────────────────────────────┐                      │
  │  │         Step 9.5: 回路 C 觊发             │                      │
  │  │                                            │                      │
  │  │  检查知识信号:                              │                      │
  │  │  ├── throughput_delta > 5%               │                      │
  │  │  ├── 新策略暡匏 (algorithmic/architectural)│                      │
  │  │  ├── è·š ≥3 蜮连续 ADVANCE                │                      │
  │  │  └── 刚修倍了 ROLLBACK 的根因             │                      │
  │  │                                            │                      │
  │  │  信号 ≥ 2                                 │                      │
  │  │  ├── 是 → 启劚 experiment-summarizer       │                      │
  │  │  │        (${CLAUDE_CLI} -p 进皋隔犻)              │                      │
  │  │  │        → 写 knowledge_delta.json        │                      │
  │  │  │        → 远加 notebooks-cn/ 对应文件    │                      │
  │  │  │        → 知识库曎新 ✅                   │                      │
  │  │  └── 吊 → NO_NEW_KNOWLEDGE (跳过)          │                      │
  │  └──────────────────────────────────────────┘                      │
  │                                                                      │
  └──────────────────────────────────────────────────────────────────────┘

四、回路 B知识进化路埄新暡型孊习埪环

         ┌──────────────────────────────────────────────────────┐
         │             evolution/EVOLUTION.md                    │
         │             进化猖排噚探玢→构建→固化→验证             │
         └──────────────────────────────────────────────────────┘

  ┌─────────────────────────────────────────────────────────────────────┐
  │                                                                      │
  │  ┌────────────────────────────────────────────────────────────────┐ │
  │  │  觊发条件                                                        │ │
  │  │  ├── CLAUDE.md Step 6 刀定"未芆盖"                               │ │
  │  │  ├── 甚户手劚 /evolve <model_id>                                 │ │
  │  │  └── master 埪环䞭銖次 /phase-all 党郚倱莥                        │ │
  │  └────────────────────────────────────────────────────────────────┘ │
  │                              │                                       │
  │                              â–Œ                                       │
  │                                                                      │
  │  ╔══════════════════════════════════════════════════════════════╗   │
  │  ║                    进化状态机                                  ║   │
  │  ║                                                               ║   │
  │  ║  ┌──────────────────────────────────┐                         ║   │
  │  ║  │  第 1 蜮                          │                         ║   │
  │  ║  │  phase: attempt_without_opensource│                         ║   │
  │  ║  │  SWITCH = OFF                     │                         ║   │
  │  ║  │                                    │                         ║   │
  │  ║  │  Explorer: skip纯知识库        │                         ║   │
  │  ║  │     ↓                              │                         ║   │
  │  ║  │  Implementer: /phase-all           │                         ║   │
  │  ║  │     ↓                              │                         ║   │
  │  ║  │  Verification: scripts/ 党郚闚犁   │                         ║   │
  │  ║  │     ↓                              │                         ║   │
  │  ║  │  ┌───────────┐                     │                         ║   │
  │  ║  │  │ 党郚 PASS? │                    │                         ║   │
  │  ║  │  └─────┬─────┘                     │                         ║   │
  │  ║  │   是 ╱     ╲ 吊                    │                         ║   │
  │  ║  │     â–Œ       â–Œ                      │                         ║   │
  │  ║  │  🎉DONE  进入第 2 蜮               │                         ║   │
  │  ║  │  (KB已借)  ↓                       │                         ║   │
  │  ║  └────────────┬──────────────────────┘                         ║   │
  │  ║               │                                                ║   │
  │  ║  ┌────────────▌──────────────────────┐                         ║   │
  │  ║  │  第 2 蜮                           │                         ║   │
  │  ║  │  phase: attempt_with_opensource    │                         ║   │
  │  ║  │  SWITCH = ON                       │                         ║   │
  │  ║  │                                     │                         ║   │
  │  ║  │  Explorer: full                     │                         ║   │
  │  ║  │  ├── WebSearch 论文/技术报告        │                         ║   │
  │  ║  │  ├── WebFetch HF config.json        │                         ║   │
  │  ║  │  ├── WebFetch HF 暡型卡             │                         ║   │
  │  ║  │  └── 读 knowledge/vllm/ (匀关ON)    │                         ║   │
  │  ║  │     ↓                              │                         ║   │
  │  ║  │  产出: exploration_report.md       │                         ║   │
  │  ║  │       + model_diff.json            │                         ║   │
  │  ║  │     ↓                              │                         ║   │
  │  ║  │  Implementer: 读探玢报告 + /phase-all│                        ║   │
  │  ║  │     ↓                              │                         ║   │
  │  ║  │  Verification: scripts/ 党郚闚犁   │                         ║   │
  │  ║  │     ↓                              │                         ║   │
  │  ║  │  ┌───────────┐                     │                         ║   │
  │  ║  │  │ 党郚 PASS? │                    │                         ║   │
  │  ║  │  └─────┬─────┘                     │                         ║   │
  │  ║  │   是 ╱     ╲ 吊                    │                         ║   │
  │  ║  │     â–Œ       â–Œ                      │                         ║   │
  │  ║  │  进入第3蜮  failure_count++         │                         ║   │
  │  ║  │            ≥3 → 暂停请求人类        │                         ║   │
  │  ║  │            <3 → Explorer增量收集    │                         ║   │
  │  ║  └────────────┬──────────────────────┘                         ║   │
  │  ║               │                                                ║   │
  │  ║  ┌────────────▌──────────────────────┐                         ║   │
  │  ║  │  第 3 蜮: Knowledge Consolidator   │                         ║   │
  │  ║  │                                     │                         ║   │
  │  ║  │  读探玢报告 + 成功代码 + 验证报告    │                         ║   │
  │  ║  │     ↓                              │                         ║   │
  │  ║  │  写入 notebooks-cn/:               │                         ║   │
  │  ║  │  ├── 02_model_specifics/ (新暡型文档)│                        ║   │
  │  ║  │  ├── 06_experience/ (调试经验)      │                         ║   │
  │  ║  │  ├── 07_improvementPlan/ (泚意事项) │                         ║   │
  │  ║  │  └── 00_contracts/ (劂需 → 人类确讀)│                         ║   │
  │  ║  │     ↓                              │                         ║   │
  │  ║  │  产出: knowledge_delta.json        │                         ║   │
  │  ║  │     ↓                              │                         ║   │
  │  ║  │  切换: SWITCH = OFF                │                         ║   │
  │  ║  │        phase = verify_without_      │                         ║   │
  │  ║  │                opensource           │                         ║   │
  │  ║  └────────────┬──────────────────────┘                         ║   │
  │  ║               │                                                ║   │
  │  ║  ┌────────────▌──────────────────────┐                         ║   │
  │  ║  │  第 4 蜮: 无匀源重验                │                         ║   │
  │  ║  │  phase: verify_without_opensource  │                         ║   │
  │  ║  │  SWITCH = OFF纯知识库           │                         ║   │
  │  ║  │                                     │                         ║   │
  │  ║  │  Explorer: skip                     │                         ║   │
  │  ║  │  Implementer: 仅读曎新后KB + /phase-all│                      ║   │
  │  ║  │  Verification: scripts/ 党郚闚犁   │                         ║   │
  │  ║  │     ↓                              │                         ║   │
  │  ║  │  ┌───────────┐                     │                         ║   │
  │  ║  │  │ 党郚 PASS? │                    │                         ║   │
  │  ║  │  └─────┬─────┘                     │                         ║   │
  │  ║  │   是 ╱     ╲ 吊                    │                         ║   │
  │  ║  │     â–Œ       â–Œ                      │                         ║   │
  │  ║  │  🎉DONE  回到第2蜮                  │                         ║   │
  │  ║  │  (进化成功)(知识还䞍借,继续迭代)     │                         ║   │
  │  ║  └────────────────────────────────────┘                         ║   │
  │  ╚══════════════════════════════════════════════════════════════╝   │
  │                                                                      │
  │  进化成功 → 知识库已曎新 → 委掟回 master/ 正垞迭代                    │
  │                                                                      │
  └──────────────────────────────────────────────────────────────────────┘

五、回路 C知识回流实验经验 → 知识库

  ┌────────────────────────────────────────────────────────────────┐
  │  觊发点: master/MASTER.md Step 9 (曎新状态) 之后                 │
  │  条件: verdict == ADVANCE                                        │
  └────────────────────────────────────────────────────────────────┘
                              │
                              ▌
  ┌────────────────────────────────────────────────────────────────┐
  │                    信号检测噚                                    │
  │                                                                 │
  │  检查本蜮是吊有倌埗持久化的知识:                                  │
  │                                                                 │
  │  ┌──────────────────┐  ┌──────────────────┐                    │
  │  │ 星著性胜增益      │  │ 新策略暡匏        │                    │
  │  │ throughput > +5% │  │ algorithmic/     │                    │
  │  │ TTFT/TPOT < -10% │  │ architectural    │                    │
  │  │ 来源: benchmarks │  │ 䞔历史䞊銖次     │                    │
  │  └────────┬─────────┘  └────────┬─────────┘                    │
  │           │                     │                               │
  │  ┌────────▌─────────┐  ┌────────▌─────────┐                    │
  │  │ 跚蜮确讀趋势      │  │ 错误修倍          │                    │
  │  │ ≥3蜮同方向       │  │ 䞊䞀蜮ROLLBACK    │                    │
  │  │ 连续ADVANCE      │  │ 本蜮修倍+ADVANCE │                    │
  │  │ 来源: decision-  │  │ 来源: history[]  │                    │
  │  │        log.jsonl │  │       + verdict  │                    │
  │  └────────┬─────────┘  └────────┬─────────┘                    │
  │           │                     │                               │
  │           └───────┬─────────────┘                               │
  │                   │                                             │
  │              ┌────▌────┐                                        │
  │              │ 信号≥2 │                                        │
  │              └────┬────┘                                        │
  │             是 ╱     ╲ 吊                                       │
  │               â–Œ       â–Œ                                         │
  │          ┌────────┐  ┌──────────────────┐                      │
  │          │ 启劚    │  │ NO_NEW_KNOWLEDGE │                      │
  │          │summarizer│ │ 跳过,继续埪环    │                      │
  │          └────┬───┘  └──────────────────┘                      │
  └───────────────│─────────────────────────────────────────────────┘
                  │
                  ▌
  ┌────────────────────────────────────────────────────────────────┐
  │               Experiment Summarizer                             │
  │               (${CLAUDE_CLI} -p 进皋隔犻)                               │
  │                                                                 │
  │  蟓入:                                                          │
  │  ├── master/strategies/strategy-<ID>.json                       │
  │  ├── master/results/<ID>/benchmarks.jsonl                       │
  │  ├── master/results/<ID>/diagnostics_summary.json               │
  │  ├── master/decision-log.jsonl                                  │
  │  └── notebooks-cn/ 现有知识                                     │
  │                                                                 │
  │         ┌──────────────────────────┐                           │
  │         │     知识園属分类噚        │                           │
  │         │                          │                           │
  │         │  调试技巧 → 06_experience│                           │
  │         │  参数规埋 → 07_improve.. │                           │
  │         │  kernel䌘化→ 07_...      │                           │
  │         │  暡型理解 → 02_model_... │                           │
  │         │  算子特埁 → 03_operators │                           │
  │         │  并行策略 → 04_parallel_ │                           │
  │         │  框架纊束 → 01_framework │                           │
  │         │                          │                           │
  │         │  ⛔ 䞍写 00_contracts/   │                           │
  │         └──────────┬───────────────┘                           │
  │                    │                                            │
  │                    â–Œ                                            │
  │  蟓出:                                                          │
  │  ├── master/results/<ID>/knowledge_delta.json                   │
  │  │   ├── iter_id, strategy, kpi_delta                          │
  │  │   ├── knowledge_category, target_file                       │
  │  │   ├── insight_summary, detail                               │
  │  │   └── signal_strength                                       │
  │  │        ├── confirmed (≥3蜮确讀)                              │
  │  │        ├── probable  (2蜮确讀)                               │
  │  │        └── tentative (仅本蜮) → 只写json,䞍远加md           │
  │  │                                                             │
  │  └── notebooks-cn/<target>.md                                   │
  │      └── 远加段萜:                                              │
  │          ## Δ from iter-<ID>                                   │
  │          - 日期/策略/效果/根因/适甚条件/信号区床                  │
  └────────────────────────────────────────────────────────────────┘

六、䞉角色对抗协䜜流Phase 构建细节

关键标泚每条 spawn 蟹标泚挂蜜方匏。[Agent] = Agent 工具 spawn[Shell] = Shell ${CLAUDE_CLI} -p 独立进皋。

                    ┌─────────────────────┐
                    │  äž» Agent䜠       │
                    │  读契纊 → 拆 Task    │
                    │  掟子代理 → 收集结果  │
                    │  ⛔ 自己䞍写/䞍审/䞍测│
                    └──────┬──────────────┘
                           │
              ┌────────────┮────────────┐
              │                         │
              ▌                         ▌
     ┌────────────────┐       ┌──────────────────┐
     │  銖次倧段构建   │       │  驳回后小修(≀10行) │
     │  (完敎䞲行路埄) │       │  (快速修倍路埄)    │
     └───────┬────────┘       └────────┬─────────┘
             │                         │
             │ [Agent] spawn           │ [Agent] spawn
             â–Œ                         │
     ┌────────────┐                    │
     │ implementer│ ← Agent 工具       │
     │ 写代码      │                    │
     │ 自读diff    │                    │
     │ → SUBMITTED│                    │
     └─────┬──────┘                    │
           │                           │
           │ [Shell] ${CLAUDE_CLI} -p         │
           â–Œ                           │
     ┌────────────┐      ❌ FAIL       │
     │spec-reviewer│ ──────────→ 打回   │
     │ Shell 独立进皋│                  │
     │ 对照契纊审查 │                  │
     └─────┬──────┘                    │
           │ ✅ PASS                   │
           │ [Shell] ${CLAUDE_CLI} -p         │
           â–Œ                           │
     ┌────────────┐                    │
     │verification│ ← Shell 独立进皋   │
     │ 双重验证:   │◄───────────────────┘
     │ L0/L0.5/L0.6│  [Shell] ${CLAUDE_CLI} -p
     │ L1 scripts  │     ❌ FAIL → 打回
     │ L2 è·šPhase  │    (连续2次→升级完敎䞲行)
     │ L3 profiler │
     └─────┬──────┘
           │ ✅ PASS
           ▌
     ┌────────────┐
     │  Phase 亀付 │
     │  + PID亀叉  │
     │    验证     │
     └────────────┘

䞃、完敎瀺䟋Qwen3.6 27B 从倎到尟

  Step 0  甚户: "/phase-all" (目标暡型 Qwen3.6 27B)
  ─────────────────────────────────────────────────
  Step 1  äž» Agent: 检测到 MODEL_DIR 指向 Qwen3-8B
          äž» Agent: AskUserQuestion → 甚户提䟛 ${MODEL_DIR} (劂 Qwen3.6-27B 路埄)
          äž» Agent: 自劚曎新 .env_agent_infer → 验证 config.json 可读 ✅
  ─────────────────────────────────────────────────
  Step 2  䞻 Agent: 读 config.json
          äž» Agent: architectures=["Qwen3ForCausalLM"], 27B params
          äž» Agent: "暡型路由结论: Dense 暡型"
  ─────────────────────────────────────────────────
  Step 3  äž» Agent: 知识库芆盖检测
          检查 model_specs.md  → 只有 Qwen3-8B没有 Qwen3.6 27B ❌
          检查 02_model_specifics/ → 只有 Qwen3 8B没有 27B 文档 ❌
          刀定: 未芆盖 → 启劚 evolution/EVOLUTION.md
  ─────────────────────────────────────────────────
  Step 4  进化猖排噚: entry_reason=coverage_fail
          → ⛔ 跳过 attempt_without_opensource盎接从 SWITCH=ON 匀始
  ─────────────────────────────────────────────────
  Step 5  进化猖排噚: 第 1 蜮 (attempt_with_opensource)
          SWITCH=ON
          Explorer:
            WebSearch "Qwen3.6 27B architecture" → 技术报告
            WebFetch HF config.json → 27B 实际绎床参数
            读 knowledge/vllm/qwen3.py → 分析 Dense 实现暡匏
            → 产出 exploration_report.md + model_diff.json
          Implementer: 读探玢报告 → 甚正确绎床 + 架构差匂 → /phase-all
          Verification: one_pass_rate = 100% → 党郚 PASS ✅
          启劚 Knowledge Consolidator
  ─────────────────────────────────────────────────
  Step 6  Knowledge Consolidator:
          写入 notebooks-cn/02_model_specifics/03_qwen3/02_27B_dense.md
          远加 notebooks-cn/00_contracts/model_specs.md (需人类确讀)
          远加 notebooks-cn/06_experience/04_qwen3.6_tp_debug.md
          产出 knowledge_delta.json
          切换到 verify_without_opensource, SWITCH=OFF
  ─────────────────────────────────────────────────
  Step 7  进化猖排噚: 第 2 蜮 (verify_without_opensource)
          SWITCH=OFF, 纯知识库重验
          Implementer: 仅读曎新后KB → /phase-all
          Verification: one_pass_rate = 100% → 党郚 PASS ✅
          🎉 进化成功
  ─────────────────────────────────────────────────
  Step 8  委掟回 master/ 回路 A
          甚曎新后的知识库跑 master 迭代埪环
  ─────────────────────────────────────────────────
  Step 9  master 埪环: 基线建立 → 诊断 → 策略 → 构建 → 验证
          ADVANCE 之后觊发回路 C
          experiment-summarizer 刀定有无新知识 → 回流到 notebooks-cn/
  ─────────────────────────────────────────────────
  最终: 知识库已包含 Qwen3.6 27B掚理框架已生成并可迭代䌘化 ✅

八、目圕文件热力囟

metainferv3/
│
├── 📄 CLAUDE.md               🔎 入口文件党局架构+启劚流皋
├── 📄 AGENT_SKILL.md           🔎 执行SOP+猖码铁埋(12条)
├── 📄 PROJECT_FLOW.md          🟢 本文件党局流皋囟
├── 📄 .env_agent_infer         🟡 环境变量机噚独立.gitignore
├── 📄 .gitignore               🟢 応略规则
│
├── 📁 notebooks-cn/            🔎 先验知识库
│   ├── 📁 00_contracts/        🔎 11䞪API契纊人类写B/C慎改
│   ├── 📁 00_overview/         🟡 项目总览
│   ├── 📁 01_framework_design/ 🟡 框架讟计
│   ├── 📁 02_model_specifics/  🟡 暡型族B/C可扩写
│   ├── 📁 03_operators/        🟡 算子知识B/C可扩写
│   ├── 📁 04_parallel_strategies/🟡 并行策略B/C可扩写
│   ├── 📁 05_inference_service/🟢 掚理服务
│   ├── 📁 06_experience/       🟡 调试经验C自劚远加
│   └── 📁 07_improvementPlan/  🟡 䌘化方案C自劚远加
│
├── 📁 .claude/
│   ├── 📁 roles/              🔎 Agent角色定义6䞪
│   │   ├── implementer-inference.md
│   │   ├── spec-reviewer-inference.md
│   │   ├── verification-inference.md
│   │   ├── experiment-summarizer.md   🟢 回路C角色
│   │   ├── explorer.md               🟢 回路B角色
│   │   └── knowledge-consolidator.md 🟢 回路B角色
│   └── 📁 skills/             🟡 Phase觊发词
│       ├── phase-all/SKILL.md
│       ├── phase1-4/SKILL.md
│       ├── phase5/SKILL.md
│       ├── phase6/SKILL.md
│       ├── phase7-8/SKILL.md
│       ├── phase9-10/SKILL.md
│       ├── phase11/SKILL.md
│       └── evolve/SKILL.md    🟢 回路B觊发词
│
├── 📁 master/                 🔎 回路A猖排噚性胜迭代
│   ├── MASTER.md
│   ├── state.json
│   ├── decision-log.jsonl
│   ├── 📁 strategies/
│   ├── 📁 results/
│   └── 📁 scripts/
│       └── call-sub-agent.sh
│
├── 📁 evolution/              🟢 回路B猖排噚知识进化
│   ├── EVOLUTION.md
│   ├── state.json
│   ├── decision-log.jsonl
│   ├── 📁 strategies/
│   ├── 📁 results/
│   └── 📁 scripts/
│       └── call-evo-agent.sh
│
├── 📁 engine/                 🔎 生成产物掚理框架
│   ├── 📁 kernels/
│   ├── 📁 models/
│   ├── 📁 framework/
│   ├── 📁 tp_layers/
│   └── self_check.py
│
├── 📄 llm_engine.py           🔎 匕擎䞻埪环
├── 📄 openai_tp_server.py     🔎 OpenAI API服务
│
├── 📁 scripts/                🔎 28䞪测试合纊只读
│
├── 📁 phase_report/           🟡 审查报告.gitignore
│
├── 📁 knowledge/              🟢 匀源代码猓存.gitignore
│   ├── 📁 vllm/
│   └── 📁 sglang/
│
└── 📁 iterations/             🟢 迭代工䜜区.gitignore

🔎 = P0 关键文件每次郜芁读
🟡 = P1 经垞䜿甚按需读取
🟢 = P2 新增/蟅助按需读取

九、关键决策节点速查

节点 䜍眮 决策 䞋䞀步
环境配眮 CLAUDE.md Step 0 .env存圚䞔匹配 是→Step1 / 吊→问甚户
暡型分析 CLAUDE.md Step 6 暡型圚KB芆盖范囎 是→回路A / 吊→回路B
平台检测 CLAUDE.md Step 7 GPU类型 NVIDIA→CustomAR / AMD→RCCL
代码莚量 䞉角色流 spec-reviewer PASS→verification / FAIL→打回
测试验收 䞉角色流 verification PASS→亀付 / FAIL→打回
KPI裁决 master Step 6 ADVANCE或ROLLBACK ADVANCE→Step7 / ROLLBACK→Step1
知识回流 master Step 9.5 知识信号≥2 是→summarizer / 吊→跳过
进化阶段 evolution Step 5 无匀源通过 是→DONE / 吊→匀源蟅助
知识固化 evolution Step 5a 写入00_contracts 是→人类确讀 / 吊→自劚
进化完成 evolution Step 5 无匀源重验通过 是→DONE / 吊→继续迭代