乐于分享
好东西不私藏

LM Studio 本地模型安装指南

LM Studio 本地模型安装指南

模型文件存放规则

LM Studio 对模型文件的目录结构有严格要求,必须遵循三层子目录格式:

<模型根目录>/
└── models/
    └── <作者名>/          ← 第一层:作者/组织名
        └── <模型名>/      ← 第二层:模型名称
            └── <文件.gguf> ← 第三层:实际的模型权重文件

正确示例

F:\kaifaENVs\lmstudio\
└── models/
    └── Qwen/
        └── Qwen3.5-9B\
            └── Qwen3.5-9B.Q4_K_M.gguf   ✅ 可被识别

常见错误

F:\kaifaENVs\lmstudio\
└── models\
    └── Qwen3.5-9B.Q4_K_M.gguf   ❌ 直接放在 models 根目录,无法识别

安装步骤

  1. 下载 GGUF 格式的模型文件
    (从 HuggingFace 或 ModelScope 等源)
  2. 创建三层目录结构
    models/<作者>/<模型名>/
  3. 将 .gguf 文件放入最内层
  4. 打开/刷新 LM Studio
     → 左侧 My Models 面板即可看到模型

目录名命名建议

层级
填写内容
示例
作者名
HuggingFace 上的组织或用户名
Qwen
meta-llamamistralai
模型名
具体模型名称
Qwen3.5-9B
Llama-3.1-8B
文件名
包含量化级别的完整文件名
Qwen3.5-9B.Q4_K_M.gguf

当前已安装模型

  • Qwen3.5-9B (Q4_K_M)
     — 路径:F:\kaifaENVs\lmstudio\models\Qwen\Qwen3.5-9B\Qwen3.5-9B.Q4_K_M.gguf

相关配置

安装后通过 LM Studio 启动本地推理服务,OpenClaw custom-proxy provider 连接地址:

  • API Base: http://127.0.0.1:8080/v1
  • API 类型: openai-responses
  • 模型 ID: Qwen3.5-9B