Skip to content

Полировка бенчмарка: исправление 37 находок ревью + перенос прод SYST… - #1

Merged
gistrec merged 1 commit into
mainfrom
review-fixes
Jul 3, 2026
Merged

Полировка бенчмарка: исправление 37 находок ревью + перенос прод SYST…#1
gistrec merged 1 commit into
mainfrom
review-fixes

Conversation

@gistrec

@gistrec gistrec commented Jul 3, 2026

Copy link
Copy Markdown
Contributor

Многоагентное ревью выявило 37 проблем (REVIEW.md), 2 критические и ~14 серьёзных искажали или могли молча исказить публикуемые метрики. Исправлено всё, каждое — с состязательной верификацией по коду; переписанный скоринг чисел прошёл 3 раунда адверсариальной проверки.

Ключевое:

  • scoring: entity+metric-анкоринг (число атрибутируется кампании и метрике по своей единице/ближайшей метке; позиционное сопоставление по пулу значений; разбор markdown-таблиц вкл. транспонированные); учёт is_error в tool-use; NBSP/US-запятая; absence-чекер (единицы/даты/id vs выдуманный CPA); реальные кэш-множители OpenAI.
  • engines/core: ретраи вокруг Anthropic-стрима; tools+tool_choice none в финальном вызове; max_tokens с запасом на thinking и обработка stop_reason=max_tokens; таймауты MCP; кламп error-результатов; типизированный is_overloaded.
  • runner/report: агрегация вынесена в report.py (тестируется в CI); ошибки не скорятся и видны в колонке Err; Stability = σ по повторам внутри кейса; Score = глоссарию (+Lang quality); судьи и на fail_fast; хэш-нонс без утечки теста; JSONL-персист + --report-from; строгие CLI-фильтры; параллелизм; метаданные/exit-коды; безопасный дефолт --out.
  • judges: валидация оценок 0-5; max_completion_tokens; temperature=0 где можно.
  • fixtures: RSYA clicks 1230→1530 (устранение коллизии значений); METRIKA_GOAL_REACHES.
  • docs/CI: README ru/en переписаны (убран удалённый DECISION_RULE); CI импортирует все модули + pytest; зависимости запинены; тесты test_report/test_runner_e2e.
  • SYSTEM_PROMPT в core.py синхронизирован с продом askads.

…EM_PROMPT

Многоагентное ревью выявило 37 проблем (REVIEW.md), 2 критические и ~14 серьёзных
искажали или могли молча исказить публикуемые метрики. Исправлено всё, каждое —
с состязательной верификацией по коду; переписанный скоринг чисел прошёл 3 раунда
адверсариальной проверки.

Ключевое:
- scoring: entity+metric-анкоринг (число атрибутируется кампании и метрике по своей
  единице/ближайшей метке; позиционное сопоставление по пулу значений; разбор
  markdown-таблиц вкл. транспонированные); учёт is_error в tool-use; NBSP/US-запятая;
  absence-чекер (единицы/даты/id vs выдуманный CPA); реальные кэш-множители OpenAI.
- engines/core: ретраи вокруг Anthropic-стрима; tools+tool_choice none в финальном вызове;
  max_tokens с запасом на thinking и обработка stop_reason=max_tokens; таймауты MCP;
  кламп error-результатов; типизированный is_overloaded.
- runner/report: агрегация вынесена в report.py (тестируется в CI); ошибки не скорятся и
  видны в колонке Err; Stability = σ по повторам внутри кейса; Score = глоссарию (+Lang
  quality); судьи и на fail_fast; хэш-нонс без утечки теста; JSONL-персист + --report-from;
  строгие CLI-фильтры; параллелизм; метаданные/exit-коды; безопасный дефолт --out.
- judges: валидация оценок 0-5; max_completion_tokens; temperature=0 где можно.
- fixtures: RSYA clicks 1230→1530 (устранение коллизии значений); METRIKA_GOAL_REACHES.
- docs/CI: README ru/en переписаны (убран удалённый DECISION_RULE); CI импортирует все
  модули + pytest; зависимости запинены; тесты test_report/test_runner_e2e.
- SYSTEM_PROMPT в core.py синхронизирован с продом askads.
@gistrec
gistrec merged commit 3dc9d45 into main Jul 3, 2026
1 check passed
@gistrec
gistrec deleted the review-fixes branch July 3, 2026 15:27
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant