大模型微调
大模型微调
1. 大模型预训练主要学习行业专属业务知识（单选题）
A. 正确
B. 错误
2. SFT微调属于有监督指令对齐训练（单选题）
A. 正确
B. 错误
3. LoRA微调训练时会冻结基座模型全部权重（单选题）
A. 正确
B. 错误
4. LoRA只能作用于注意力层，无法指定其他层（单选题）
A. 正确
B. 错误
5. rank数值越小，训练参数量越少（单选题）
A. 正确
B. 错误
6. alpha参数越大，LoRA对输出影响越小（单选题）
A. 正确
B. 错误
7. QLoRA可以有效降低微调所需显存（单选题）
A. 正确
B. 错误
8. QLoRA训练过程中LoRA权重进行低精度训练（单选题）
A. 正确
B. 错误
9. 模型量化位数越低，体积越小、精度越低（单选题）
A. 正确
B. 错误
10. 8G显存显卡可正常运行QLoRA微调小模型（单选题）
A. 正确
B. 错误