本地模型部署

本地模型部署

1. Ollama支持设置模型运行超时自动断开会话(单选题)

A. 正确

B. 错误

2. Llama.cpp中调高线程数,CPU占用率会同步上升(单选题)

A. 正确

B. 错误

3. vLLM支持流式输出接口,适配打字机实时回复效果(单选题)

A. 正确

B. 错误

4. Q2_K量化模型体积最小,适合极致低配设备(单选题)

A. 正确

B. 错误

5. ollama run 退出对话直接输入/bye即可(单选题)

A. 正确

B. 错误

6. RAG检索得分越高,代表文档与用户问题匹配度越低(单选题)

A. 正确

B. 错误

7. 修改Ollama端口后,原有接口调用地址也要同步更改(单选题)

A. 正确

B. 错误

8. 温度为0.5属于均衡风格,兼顾创意与严谨(单选题)

A. 正确

B. 错误

9. 模型加载失败大概率是模型文件损坏或哈希不一致(单选题)

A. 正确

B. 错误

10. 内网环境下不需要配置代理即可正常运行本地模型(单选题)

A. 正确

B. 错误