乐于分享
好东西不私藏

AMD AI Max+ 395运行通义千问视觉模型qwen3-vl:30b

AMD AI Max+ 395运行通义千问视觉模型qwen3-vl:30b
1.在AMD AI Max+ 395主机上,将128G内存分96G给显存

2.然后使用LMStudio加载qwen3-vl:30b

3.上传一张图片并输入“提取图片中所有文字信息”

4.速度大概在69token/s,首token时间约3.57s