本仓库为NLP学习复现 microgard 实现自动求导框架microgard 基于microgard实现简单神经网络并进行训练 后续计划实现GPU支持和Tensor Transformer 完整实现字符级Transformer,复现任务为中->英翻译 数据集在transformer/data中 gpt-mini 使用小说文本进行预训练,生成相似风格文本 tokenizer BPE算法tokenizer实现