Jan v0.8.2发布:本地AI助手迎来重大更新
开源本地AI助手Jan于6月1日发布v0.8.2版本,为Linux用户带来期待已久的AMD显卡支持,同时大幅优化了启动速度和下载体验。

AMD ROCm/HIP后端正式上线
本次更新最大的亮点是新增了对AMD ROCm/HIP的支持。Linux用户现在可以在配备AMD Radeon显卡的设备上运行本地大语言模型,不再局限于NVIDIA显卡。
Jan团队表示,该功能目前处于实验阶段,仅支持Linux系统,Windows版本尚未推出。Jan会自动检测AMD GPU并提供HIP后端选项,将不同格式的ROCm资源统一映射到标准后端ID,方便用户管理和更新。
启动速度显著提升
v0.8.2对冷启动流程进行了深度优化。应用更新检查、llama.cpp后端依赖验证以及MCP设置等网络相关操作,现在都会延迟到首次渲染完成后才执行。这意味着用户打开Jan后可以立即看到界面,不再被网络探测和版本检查阻塞。
智能上下文管理
新版还改进了大模型的上下文处理逻辑。当用户未设置上下文大小且关闭自动适配时,llama.cpp路由会默认使用8192的ctx-size,而非加载模型完整的训练上下文(通常为128k+)。这一改动有效防止了在处理超大上下文模型时出现内存溢出的问题。
可恢复下载功能
下载大模型时若遇到网络中断,用户现在可以从中断点继续下载,无需重新开始。这对于动辄数GB的模型文件来说,无疑提升了用户体验。
Jan-Code-4B:轻量级编程助手
配合v0.8.2发布,Jan还推出了Jan-Code-4B模型——一个专为代码任务优化的4B参数轻量级模型。该模型基于Qwen3-4B-Instruct微调,针对代码生成、编辑、重构和调试等场景进行了专门优化。16GB内存即可流畅运行Q8量化版本,可作为Claude Code中Haiku模型的本地替代方案,实现完全私密的编程工作流。
总结
Jan v0.8.2的发布进一步巩固了其作为开源本地AI助手的领先地位。AMD显卡支持的加入让更多用户能够享受本地AI的便利,启动速度的优化则显著提升了日常使用的流畅度。对于关注数据隐私和本地AI部署的用户来说,Jan正成为一个越来越有吸引力的选择。
Jan是一款开源的本地AI助手,支持在Windows、macOS和Linux上运行各类大语言模型,所有数据均保存在本地,无需联网即可使用。
夜雨聆风