大模型微调
大模型微调
1. 大模型预训练属于无监督自监督学习(单选题)
A. 正确
B. 错误
2. SFT微调目的是让模型对齐人类指令习惯(单选题)
A. 正确
B. 错误
3. PEFT微调整体算力开销远小于全量微调(单选题)
A. 正确
B. 错误
4. LoRA训练只新增少量参数,不动原模型权重(单选题)
A. 正确
B. 错误
5. rank数值越大代表模型学习能力越弱(单选题)
A. 正确
B. 错误
6. 调高alpha值会增强LoRA适配器的作用效果(单选题)
A. 正确
B. 错误
7. QLoRA可以实现单卡低显存训练百亿级模型(单选题)
A. 正确
B. 错误
8. NF4量化相比普通4bit量化精度损失更小(单选题)
A. 正确
B. 错误
9. 模型量化级别越高,占用内存体积越大(单选题)
A. 正确
B. 错误
10. 3090/4090显卡均可流畅运行QLoRA微调(单选题)
A. 正确
B. 错误