Skip to content

ZhiYiTree/Mini-UFlash

Repository files navigation

Mini UFlash V1.0 Research Preview

V1 冻结范围

Mini UFlash V1 是面向 Unlimited-OCR 的轻量 Future-Hidden 推测解码研究原型:

  • 约 630 万参数 Residual Future-Hidden V2 草稿器;
  • 一个目标模型确定的 Anchor Token;
  • 并行预测未来 3 个 Token;
  • 动态 B2/B3/B4;
  • 稳态 Ring KV Cache 验证;
  • 部分接受和 Ring 尾部回滚;
  • interval-12 / margin-0.5 稀疏 Rebase;
  • 官方 no-repeat ngram processor;
  • officialfastverified 三种运行模式。

诚实的适用范围

V1 不是通用 OCR 加速器

完整页面级 OOF 结果:

英文密集正文:约 1.363×,逐 Token 完全一致
全部 OOF 页面事后门控上限:约 1.034×
跨全部页面统一精确策略:约 0.672×

因此 V1 冻结为:

针对高可预测连续文本,特别是英文密集正文的研究预览版。

公式、代码、多栏、混排和普通未见页面默认不应盲目开启 fast 模式。

运行模式

verified(默认)

同时运行官方和推测路径。推测输出逐 Token 一致时返回推测结果;不一致时返回官方结果。

python mini_uflash_v1.py /path/to/page.png \
  --mode verified

这是验证模式,不以最终吞吐为目标。

fast

只运行推测路径:

python mini_uflash_v1.py /path/to/dense_english.png \
  --mode fast

仅建议用于已经验证过的连续英文正文分布。有限精度下,不能对任意新页面承诺与逐 Token AR 位级一致。

official

原始官方路径:

python mini_uflash_v1.py /path/to/page.png \
  --mode official

收口运行

把构建包放到:

/root/autodl-tmp/mini-uflash/

执行:

source /root/miniconda3/etc/profile.d/conda.sh
conda activate mini-uflash
cd /root/autodl-tmp/mini-uflash

unzip -o mini_uflash_v1_release_builder.zip
chmod +x finalize_mini_uflash_v1.sh

nohup bash finalize_mini_uflash_v1.sh \
  > logs/finalize_v1_launcher.log 2>&1 &

tail -f logs/finalize_v1_launcher.log

完成后:

cat UPLOAD_THIS_V1_RELEASE.txt

发布包会包含:

  • V1 CLI 和完整推测核心;
  • V2 Seed-3 草稿器权重;
  • 当前 Ring Block 补丁源码;
  • 完整 OOF 报告;
  • V1 验证报告;
  • Manifest 和 SHA256。

About

No description, website, or topics provided.

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

No releases published

Packages

 
 
 

Contributors

Languages