本地模型部署

本地模型部署

1. 修改Ollama环境变量可更改模型默认存储路径(单选题)

A. 正确

B. 错误

2. Llama.cpp支持CPU+GPU混合分层加载,节省显存(单选题)

A. 正确

B. 错误

3. vLLM部署模型支持自动分片拆分加载大权重文件(单选题)

A. 正确

B. 错误

4. 温度参数temperature数值越大,回答越保守严谨(单选题)

A. 正确

B. 错误

5. ollama ps 命令可以查看当前正在运行的模型进程(单选题)

A. 正确

B. 错误

6. 8位量化模型运行消耗资源高于4位量化模型(单选题)

A. 正确

B. 错误

7. 离线环境下无法使用vLLM启动已经下载好的模型(单选题)

A. 正确

B. 错误

8. 本地部署大模型做RAG,检索优先级高于模型自由生成(单选题)

A. 正确

B. 错误

9. Ollama支持一键导入HuggingFace开源模型(单选题)

A. 正确

B. 错误

10. 模型加载慢只和硬盘读写速度无关(单选题)

A. 正确

B. 错误