首先内存不够有人有解决办法吗？另外，也说一下自己的一些训练经验总结。

[zbtong6799]

如果只是跑web demo。可以参考的教程
https://blog.csdn.net/matt45m/article/details/142565906

Vicuna至少使用1.0,因为v0会出现无法匹配的问题。

训练阶段
在openllama.py中，要添加一行代码

from peft import LoraConfig, get_peft_model, TaskType

不然会困在版本冲突的循环里面

[zbtong6799]

内存问题解决，零零散散笔记
笔记

使用pip安装git时，如果超时，则使用代理连接进行安装

train_mntec.sh
--include localhost:0,1
0,1显卡训练暂时修改为1,只用一号显卡

openllama_peft_stage_1.json
修改
train_batch_size": 8
"gradient_accumulation_steps": 8
或者
train_batch_size": 16
"gradient_accumulation_steps": 16

openllama.py添加
from peft import LoraConfig, get_peft_model, TaskType
from transformers import LlamaTokenizer