大模型微调

大模型微调

1. 大模型预训练阶段主要依托海量无标注文本学习语言规律(单选题)

A. 正确

B. 错误

2. SFT监督微调使用带指令与答案的配对数据训练(单选题)

A. 正确

B. 错误

3. LoRA微调需要改动模型全部网络权重参数(单选题)

A. 正确

B. 错误

4. LoRA仅在注意力模块插入低秩矩阵实现微调(单选题)

A. 正确

B. 错误

5. rank值越大,可训练参数越少,拟合能力越弱(单选题)

A. 正确

B. 错误

6. alpha参数用来调节低秩矩阵权重占比(单选题)

A. 正确

B. 错误

7. QLoRA是结合量化与LoRA的低成本微调方案(单选题)

A. 正确

B. 错误

8. QLoRA训练时基座模型采用4bit量化存储(单选题)

A. 正确

B. 错误

9. INT4量化模型占用存储空间远小于FP16模型(单选题)

A. 正确

B. 错误

10. 24G独立显卡无法运行QLoRA微调大模型(单选题)

A. 正确

B. 错误