大模型微调
大模型微调
1. SFT监督微调主要作用是让模型学会服从人类指令（单选题）
A. 正确
B. 错误
2. 全参数微调属于参数高效微调PEFT范畴（单选题）
A. 正确
B. 错误
3. LoRA微调会修改大模型原始主干权重（单选题）
A. 正确
B. 错误
4. LoRA主要针对Transformer注意力层做增量训练（单选题）
A. 正确
B. 错误
5. LoRA的rank秩数值越大，可训练参数越少（单选题）
A. 正确
B. 错误
6. Alpha参数用来调节LoRA权重融合强度（单选题）
A. 正确
B. 错误
7. QLoRA采用4bit量化基座模型进行微调（单选题）
A. 正确
B. 错误
8. QLoRA训练时LoRA权重依旧保持高精度训练（单选题）
A. 正确
B. 错误
9. NF4量化精度损失比普通INT4更小（单选题）
A. 正确
B. 错误
10. 普通16G显存显卡无法使用QLoRA微调7B模型（单选题）
A. 正确
B. 错误