本地模型部署

本地模型部署

1. ollama run 模型名 可直接进入交互式对话窗口（单选题）

2. Llama.cpp 支持 Windows、Linux、安卓多平台运行（单选题）

3. vLLM 依靠连续批处理大幅提升并发请求处理能力（单选题）

4. 模型量化位数越高，占用硬件资源越少（单选题）

5. Ollama 离线环境下无法加载已下载好的本地模型（单选题）

6. GGUF 格式模型是目前本地轻量化部署主流格式（单选题）

7. 调整temperature参数可以控制AI回答的随机性（单选题）

8. vLLM 对显卡显存要求低于 Ollama（单选题）

9. 纯CPU运行大模型首选Llama.cpp量化版本（单选题）

10. Ollama 可以自定义系统提示词限定回答范围（单选题）