模型文件存放规则
LM Studio 对模型文件的目录结构有严格要求,必须遵循三层子目录格式:
<模型根目录>/
└── models/
└── <作者名>/ ← 第一层:作者/组织名
└── <模型名>/ ← 第二层:模型名称
└── <文件.gguf> ← 第三层:实际的模型权重文件
正确示例
F:\kaifaENVs\lmstudio\
└── models/
└── Qwen/
└── Qwen3.5-9B\
└── Qwen3.5-9B.Q4_K_M.gguf ✅ 可被识别
常见错误
F:\kaifaENVs\lmstudio\
└── models\
└── Qwen3.5-9B.Q4_K_M.gguf ❌ 直接放在 models 根目录,无法识别
安装步骤
- 下载 GGUF 格式的模型文件
(从 HuggingFace 或 ModelScope 等源) - 创建三层目录结构
: models/<作者>/<模型名>/ - 将 .gguf 文件放入最内层
- 打开/刷新 LM Studio
→ 左侧 My Models 面板即可看到模型
目录名命名建议
Qwenmeta-llama、mistralai | ||
Qwen3.5-9BLlama-3.1-8B | ||
Qwen3.5-9B.Q4_K_M.gguf |
当前已安装模型
- Qwen3.5-9B (Q4_K_M)
— 路径: F:\kaifaENVs\lmstudio\models\Qwen\Qwen3.5-9B\Qwen3.5-9B.Q4_K_M.gguf
相关配置
安装后通过 LM Studio 启动本地推理服务,OpenClaw custom-proxy provider 连接地址:
API Base: http://127.0.0.1:8080/v1API 类型: openai-responses模型 ID: Qwen3.5-9B
夜雨聆风