索尼懵了!越狱PS5爆改AI服务器:硬跑270亿参数大模型,4060Ti当场汗颜

十月初的一个深夜，土耳其伊斯坦布尔。

程序员梅尔特·科巴诺夫（Mert Cobanov）已经关灯躺下，准备入睡。临睡前，他顺手刷了一下手机一条刚刚弹出的极客社区快讯，让他像触电一样从床上弹了起来，索尼 PlayStation 5 的最新系统漏洞被攻破，越狱大门敞开了。

睡意瞬间清零他冲到电脑前，打开编辑器，决定干一件全世界还没人干成的事：把开源大模型推理引擎 llama.cpp，塞进客厅里那台用来打游戏的 PS5。

几天后，当他握着索尼 DualSense 手柄，在电视机的浏览器里和本地运行的千问大模型对答如流时，整个海外技术圈都被炸醒了。

▲ 科巴诺夫放出的首支演示视频：直接用 PS5 手柄在主机浏览器里与本地大模型聊天

但没人想到，这仅仅是一场疯狂硬件接力的序幕。短短两周内，社区极客顺着这根火柴一路狂奔，不仅榨干了 PS5 的显卡算力，让一台五年前发布的游戏机以每秒 21 个词元（tok/s）的速度流畅运行起 270 亿参数（27B）的庞然大物，甚至还给它装上了工业级的电视监控仪表盘，把它变成了一台能驱动 Claude Code 写代码的局域网 AI 服务器。

评论区里，一位刚花高价买下英伟达 RTX 4060 Ti 显卡的网友看着电视屏幕上的帧率曲线，留下了一句高赞哀嚎：“看着越狱 PS5 飙出 20 tok/s，我感觉手里的 4060 Ti 受到了当面羞辱。”

一台原本只负责渲染《战神》和《蜘蛛侠》的游戏主机，究竟是怎么被改造成 AI 算力怪兽的？顺着开发者踩过的深坑往下剥，你会看到一场极其精妙的软硬件越狱接力。

01一分钟蹦一个字：被锁进“小黑屋”的算力

故事的第一棒，其实跑得相当憋屈

科巴诺夫连夜赶制出的初代项目叫 PS5LM（PlayStation 5 Language Model）。对于熟悉主机硬件的人来说，把 llama.cpp 搬上 PS5 并不算天方夜谭。PS5 肚子里的中央处理器（CPU）是一颗八核 AMD Zen 2 芯片，操作系统底子又是源自 FreeBSD 的分支。科巴诺夫几乎没怎么改动核心代码，只加了几个编译开关和一层薄薄的系统兼容垫片，就让程序跑了起来。

但当他试图挑战这块硬骨头，拥有 270 亿参数的 Qwen 3.8 27B 模型时，主机瞬间变成了老牛拉破车。

屏幕上，整整一分钟，才极其艰难地蹦出一个词（Token）。

为什么会慢成这样？答案藏在越狱主机的底层权限机制里。

早期的 PS5LM 是以“载荷（Payload）”的形态运行的。你可以把 Payload 理解成一种借壳上市的“临时工脚本”，它趁着系统漏洞溜进内存，但依然被索尼的安全机制关在狭小的沙盒里。

在这个“小黑屋”中，程序面临着两道致命枷锁：

1. 内存被卡脖子
   ：整台 PS5 虽然有 16GB 内存，但 Payload 进程最多只能分到大约 6 GiB。27B 的大模型根本塞不下，只能一边从固态硬盘里蚂蚁搬家式地读取权重数据，一边计算。
2. 摸不到显卡（GPU）
   ：Payload 只能调用主机那颗平平无奇的 CPU，而 PS5 内部那颗强大的图形处理器，对它来说完全是禁区。

跑 8 亿参数（0.8B）的玩具模型，CPU 还能维持每秒 13 到 21 个词的体面；一旦撞上 270 亿参数的巨兽，6 GiB 的内存小黑屋立刻原形毕露。要想让 PS5 变成 AI 服务器，就必须砸碎沙盒，把显卡唤醒。

02飙升1200倍！游戏机里藏着一块“官方补贴显存砖”

接力棒交到了第二位神秘极客手中

十月中旬，一位网名为 abhi245y 的社区开发者带着他的分支项目 PS5LM Plus 杀入战场。他做了一个极其大胆的手术：彻底抛弃临时工式的 Payload 路径，把 llama.cpp 重新封装成一个“PS5 原生应用（Native App）”。

改造后的 PS5LM Plus 以原生应用身份运行，获得了接近游戏应用的资源配额。

身份一变，特权全开作为原生应用，程序直接拿到了约 12 GiB 的系统直接内存，并通过社区移植的 RADV 开源驱动与 Vulkan 图形接口，成功接管了 PS5 的 GPU，划出了整整 11.44 GiB 的高速显存堆。

当同一个 Qwen 3.8 27B 模型再次启动时，奇迹发生了：电视屏幕上的 GPU 占用率瞬间拉满到 100%，CPU 占用率降到几乎为零，仪表盘显示芯片（SoC）功耗为 86W，温度为 55°C。而文字生成的速度，从“一分钟一个词”直接飙升到了 每秒 20.9 个词（tok/s），足足快了 1200 多倍，比普通人一目十行的阅读速度还要快！如果换用体型更小的 Llama 3.2 3B 模型，速度更是直接冲上了惊人的 124 tok/s。

▲ 开发者公布的实测画面：GPU 满载运行 Qwen 3.8 27B，生成速率稳定在 20.9 tok/s，SoC 功耗为 86W

为什么一台卖三千多块钱的游戏机，跑起大模型来能让不少高端 PC 显卡都感到汗颜？

本地生成文字时，内存带宽往往会卡住速度。芯片即便还有计算余力，也得等模型权重从内存中读出来。

大模型每向外吐出一个字，芯片就必须把几十亿甚至上百亿个模型参数，从显存里完完整整地读取一遍。这就好比让一位速读大师看书，大师脑子转得再快（算力高），如果翻书的机械手太慢（带宽低），他也只能干瞪眼。普通电脑的 CPU 内存通道就像一条乡间小道，而 PS5 为了让玩家流畅运行 4K 高帧率游戏，出厂就配备了 16GB 的 GDDR6 统一内存，总带宽高达惊人的 448 GB/s！

448 GB/s 是什么概念？它和桌面级的英伟达 RTX 3060 Ti（GDDR6 版）完全处于同一梯队，甚至超过了部分最新一代的甜品级显卡。

▲ 技术博主一针见血地指出：跑本地模型算的是一笔显存账，而游戏机恰好是一块被厂家补贴过的大显存

在 DDR4 与各类内存价格三个月暴涨 24%、大容量显卡动辄大几千元的 2026 年，想在家里攒一台大显存主机成本极高。而索尼当年为了卖游戏、赔本赚吆喝塞进 PS5 里的这块高带宽统一内存，在极客眼里，突然变成了一块被硬件巨头真金白银补贴过的“现成显存砖”。

不过，把 270 亿参数的模型塞进 11.44 GiB 的可用显存里，也付出了惨烈的代价。

正常精度下的 27B 模型体积动辄超过 50GB。为了装进 PS5，开发者使用了极端的 2-bit 级别量化技术（如 UD-IQ2_XXS，体积压缩至约 6.8 GiB）。所谓量化，就是用更粗糙的数字刻度去记录模型参数。原本用 16 位高精度小数记录的神经元权重，现在被强行砍到了只剩 2 个比特。

用社区网友毒舌却精准的评价来说，这相当于一个“被切了脑叶的 27B 模型”，它依然能流畅说话、写基础代码，但在复杂逻辑推理上的智商不可避免地打了折扣。而且受限于主机的预填充（Prefill）算力，如果你一次性塞给它两万个词元的超长提示，得先等上好几分钟，它才能憋出第一个字。

03瞒天过海的“全栈魔术”：当黑客把自制软件做出商业级质感

如果故事只停留在“跑了个高分”，那 PS5LM Plus 充其量只是一个极客跑分玩具。让专业开发者感到头皮发麻的，是 abhi245y 为这套系统搭建的全栈软件工程架构。

在主机上写软件，最痛苦的是没有键盘鼠标，而且处处受限于索尼严密的系统沙盒。为了把这台越狱主机变成插电就能用的家庭 AI 节点，开发者一连串使出了三记极其老辣的工程绝招：

第一招：派驻“地下特工”，破解黑盒监控你看上面那张惊艳的电视仪表盘截图，实时速率曲线、芯片功耗、每生成一个词消耗的焦耳能量、核心温度、风扇转速，甚至连显存里哪块装了模型权重、哪块留给了对话缓存（KV Cache），都用色块切分得明明白白。整套界面基于轻量级框架 ps5-homebrew-ui 打造，完全用 DualSense 手柄的十字键和肩键就能丝滑操控。

但问题来了：在 PS5 的权限体系里，前台运行的游戏应用是被严格隔离的“瞎子”，索尼不仅封死了温度传感器和风扇寄存器的读取权限，甚至连查询硬盘剩余空间的 statvfs 系统调用都被直接打成了空桩（Stub）！前台应用是怎么画出专业仪表盘的？

答案是“里应外合”开发者在应用内部悄悄打包了一个叫 ps5-exporter 的监控载荷。每当应用启动，它会暗中联系后台监听 9021 端口的底层加载器（elfldr），唤醒一个拥有高权限的“地下守护进程”，直接去底层硬件寄存器里抄录温度、功耗和风扇数据，再跨进程传回给电视前台。这种绕过系统封锁的巧妙设计，硬生生在游戏机上做出了商业服务器级别的遥测监控。

第二招：16兆“探针排雷”，告别盲目下载。动辄十几个 G 的模型文件，如果玩家用小水管下载了半天，加载时却发现爆显存崩溃，体验绝对是灾难级的。

为此，PS5LM Plus 不仅支持插上 USB 移动硬盘或 M.2 固态硬盘直接通过内存映射（mmap）就地加载模型，还在内置的 Hugging Face 在线商店里写了一个绝妙的“首部探针机制”。当你在电视上看中某个远程模型、按下手柄上的“方块键”时，主机不会傻乎乎地直接下载整个文件，而是调用索尼原生的 libSceHttp2 网络库，只精准拉取远程文件开头的 16 MiB 数据。通过解析这 16 兆头部里的模型层数与张量维度，系统当场就能算出它会不会撑爆那 11.44 GiB 显存，提前帮你“排雷”。

第三招：一行补丁，驯服顶级编程神器 Claude Code。这台 PS5 最硬核的用法，是通过局域网开启 8081 端口，同时对外提供三套标准接口：兼容 Continue 和 aider 的 OpenAI 对话接口、兼容 codex 的 Responses 接口，以及专为 Claude Code 打造的 Anthropic Messages 接口。

在对接 Claude Code 时，开发者撞上了一个行业级难题：Claude Code 在调用工具写代码时，喜欢在多轮对话的半途突然插进一段“系统提示词（System Message）”；但主机上跑的千问（Qwen）等开源模型，其底层模板（Jinja Template）有严格的洁癖，系统提示词只准出现在对话的第一句，半路插队直接报错崩溃。

为了填平这个鸿沟，开发者直接给底层的 llama.cpp 写了一个专属补丁（patches/0004）：当主机推理服务拦截到半路杀出的系统提示词时，会自动在内存里把它“折叠融合”进开头的第一个提示词块里，神不知鬼不觉地骗过了模型的模板检查。实测中，开启 64k 上下文的 PS5 成功驱动电脑端的 Claude Code 和 opencode，顺畅完成了 Python 函数的编写与语法校验！

04历史是个圈：从地铁车厢里的PS3，到客厅里的AI节点

当越狱 PS5 变身 AI 服务器的消息传遍全网时，无数老极客的 DNA 动了。

有人在评论区晒出了经典美剧《疑犯追踪》（Person of Interest）的剧照，这位网友回忆，剧中濒临毁灭的人工智能曾借助废弃地铁车厢里串联的 PlayStation 3 游戏机 维持运行。

▲ 网友晒出美剧《疑犯追踪》中用一车厢 PS3 养活人工智能的名场面，感叹现实正在追上剧本

“求求你们别再折腾了，不然继显卡和内存之后，连游戏机都要被抢光买不到了！”一位网友半开玩笑地在帖子下求饶。

狂欢之外，我们当然要看清这件事的真实边界。对于绝大多数普通玩家而言，拿自己心爱的 PS5 去越狱绝非明智之举，你不仅需要停留在特定的旧版系统固件、彻底告别 PSN 联网对战与官方保修，而且一个被压缩到 2-bit 的“切脑叶版”大模型，在面对严肃复杂的生产力任务时依然力不从心。

但 PS5LM 与 PS5LM Plus 的诞生，依然是 2026 年开源社区最迷人的高光时刻之一。

从土耳其程序员深夜跳下床写出的第一行移植代码，到社区开发者重构原生 GPU 驱动、打通全栈手柄 UI 与三大编程接口，再将代码无私合并回上游仓库，这场跨越国界的开源接力向所有人证明了一件事：在 AI 算力被昂贵硬件高墙垄断的今天，只要有一套可移植的开源推理栈，再加上一群不服输的极客，哪怕是一台被锁在客厅电视柜里的游戏机，也能撕开一道通往本地智能的裂缝。