本地模型部署

本地模型部署

1. Ollama 支持在Windows、Linux、macOS全平台安装使用（单选题）

2. Llama.cpp 的 n-gpu-layers 参数数值越大，GPU参与运算越多（单选题）

3. vLLM 不支持纯CPU模式运行，必须配备独立显卡（单选题）

4. 模型量化位数越高，压缩比例越大，精度损失越小（单选题）

5. ollama pull 命令必须联网才能执行下载模型（单选题）

6. 已经下载到本地的GGUF模型，可脱离网络直接运行（单选题）

7. 调高重复惩罚参数可以有效抑制AI重复话术（单选题）

8. 上下文窗口设置越大，对话记忆越强，硬件开销越小（单选题）

9. OpenAI格式接口可以无缝对接Ollama服务（单选题）

10. 向量数据库的作用是替代大模型生成答案（单选题）