脱獄済みのPlayStation 5で、27B（Bは十億を表す）パラメータの大規模言語モデル（LLM）をGPU上で動かし、毎秒約20トークンを生成したと、開発者のabhi245y氏が報告した。使ったのは、LLM実行ソフト「llama.cpp」をPS5へ移植するPS5LMから派生した「PS5LM Plus」である。本体用アプリとしてGPUとメモリを使えるようにし、同じ家庭内ネットワークの端末から質問を送るところまで実現している。ただし、生成の速さと、長い質問を読み終えて最初の返答を出すまでの時間には、大きな隔たりがある。
27Bを動かしたGPUとアプリのメモリ枠
Mert Cobanov氏が開発した元のPS5LMは、PS5のCPUでモデルを動かす追加プログラムとして出発した。公開中の説明では、ホーム画面の動作を圧迫せずにモデルをメモリへ常駐させられる量は約1.6GBで、当初の対象もQwenの0.8Bや2Bといった小型モデルに絞られている。
そこへ、GPUを使う本体用アプリを加えたのがPS5LM Plusだ。開発者の説明によると、追加プログラムには約6GiBのメモリが与えられる一方、GPUは使えない。本体用アプリとして起動すると、12GiBの直接メモリとGPUへのアクセスを得られるという。元版の「約1.6GB」はモデルを常駐させる量、こちらの「約6GiB」はプログラムに与えられるメモリの枠であり、同じ上限を別の数字で表しているわけではない。
Plusはllama.cppのVulkan対応を使い、有志によるAMD向けドライバーRADVのPS5移植版でGPUを動かす。実際に使う領域は、一つにまとめた11.44GiBと説明されている。CPUからGPUへ計算を移すとともに、プログラムの起動形態を変えて、モデルを置く場所を確保したのである。
PS5のモデル資料にある総メモリ量は16GBで、システム全体で共有する。従って、モデルが16GBいっぱいまで使えるという話にはならない。総容量、アプリの割り当て枠、実際に確保できる領域を分けると、27Bを載せるために量子化が必要だった理由も見えてくる。
量子化とキャッシュを組にして見る
今回動かしたQwen3.8-27Bは、重みを少ないビット数で表して容量を減らす、低ビットの量子化版である。27Bという名称はパラメータ数を示すため、同じ名前でも、保存する重みの精度や必要なメモリ量まで同じとは限らない。
2026年10月15日時点のPS5LM Plusの説明にある測定値を、モデル容量と文脈の保持条件を添えて並べると、次のようになる。いずれも開発者によるPS5のGPU上での測定で、第三者による再現試験の結果ではない。
| モデル・量子化版 | モデル容量 | 文脈長／KVキャッシュ形式 | 生成速度 |
|---|---|---|---|
| Qwen3.8-27B UD-Q2_K_XL | 9.2GiB | 32k／q4_0 | 20.3トークン/秒 |
| Qwen3.8-27B UD-IQ2_XXS | 6.8GiB | 64k／q8_0 | 20.7トークン/秒 |
| Gemma 4 E4B QAT q4_0 | 4.8GiB | 64k／q4_0 | 61トークン/秒 |
| Llama 3.2 3B Instruct Q4_K_M | 1.9GiB | 64k／q8_0 | 124トークン/秒 |
出典はPS5LM Plusのモデル別測定表。GemmaとLlamaはUSBからモデルを読み込んだ条件である。トークンはモデルが文章を処理する単位で、日本語の文字数や単語数とは一対一に対応しない。
27Bの二つの結果では、容量の小さい版が長い文脈を確保している。ただし、量子化の方式とKVキャッシュの形式も異なる。処理済みの文脈情報を保持するKVキャッシュは、モデルの重みとは別に場所を取るため、重みだけが収まれば好きな長さの会話を扱えるわけではない。Plusは空きメモリを見ながら、収まる文脈長とキャッシュ形式をモデルごとに選ぶ。
この条件で生成速度が近かったことから、二つの量子化版の回答品質まで同等とは判断できない。公開された測定表には、低ビット化で正答率や推論能力がどれほど変わるかの比較が含まれていないからだ。また、毎秒124トークンは小型のLlamaの結果であり、27Bモデルの速度ではない。モデルの規模、量子化、文脈の設定をそろえて初めて、用途に合う比較ができる。
毎秒20トークンでも、最初の返答には待ち時間
文章を生成し始めた後の速度とは別に、モデルには入力を読む時間が必要になる。短い質問なら目立ちにくいが、コード編集のツールは指示文やツール定義、ファイルをまとめて送るため、この処理が長くなりやすい。
開発者の接続ガイドは、27Bモデルの入力処理を毎秒35〜50トークンと説明する。開発者が示す毎秒35〜50トークンの入力処理速度を一定と仮定すると、2万トークンを読むだけで約6.7〜9.5分かかる。これは2026年10月15日に閲覧した同ガイドの「Which model」節から、2万÷50÷60と2万÷35÷60を計算し、小数第1位に丸めた概算だ。
モデルを読み込む時間や回答を生成する時間は含めておらず、初回応答の実測値ではない。しかも同じガイドの実機試験の節には、入力を毎秒約30トークンで処理したとの記述もある。一定の速度を保証する数字として使わず、長い入力では最初の返答まで数分待ちうる、という規模感として読むべきだろう。後続のやり取りではキャッシュを再利用でき、初回より速くなると開発者は説明している。
その違いは、小さなコード編集の実機試験にも表れている。2026年10月10日、Qwen3.8-27B UD-IQ2_XXS、64kの文脈長、q8_0のキャッシュを使い、2行のPythonファイルに足し算の関数を加える課題を試したという。
opencode 1.18.35では208秒で編集し、Claude Code 2.1.296では613秒かかり、その大半を最初の長い入力の処理が占めた。codex 0.161.0は編集後の実行確認まで行ったと記録されているが、ツールごとに送る指示や処理が異なるため、この結果を性能順位には使えない。
ファイル自体が短くても、周囲の指示が長ければ待ち時間は伸びる。64kの文脈を保持できることと、その文脈を素早く読み込めることは、別々に評価する必要がある。
PS5を家庭内サーバーにする条件
PS5LM Plusはテレビに動作状況やモデル一覧を表示し、同じネットワーク上のスマートフォンやPCにはブラウザーのチャット画面を提供する。内部ストレージのほか、M.2やUSB上のGGUF形式のモデルを選べる構成で、一覧にはメモリに収まるかどうかも表示する。
開発ツールとの接続口も用意した。ガイドはOpenAI Chat Completions、OpenAI Responses、Anthropic Messagesの3種類のAPI形式に対応すると説明している。既存のツールからPS5へ要求を送れることに意味があり、実際に回答するのはPS5で読み込んだモデルだ。要求に書かれたモデル名は無視されるため、APIの名前から商用サービス側のモデルと同じ能力を期待することはできない。
利用には、非公式ソフトを動かせるよう制限を解除した、いわゆる脱獄済みPS5が前提となる。Plusの説明が必須とするのは、kstuff-lite、etaHEN、ShadowMountPlusという追加ソフトで、通常のPS5へ公式アプリとして導入できる機能ではない。
今回の到達点は、ゲーム機のGPUで大きなモデルを実行し、別の端末から使う経路までつながったことにある。次に用途を見極めるには、同じ入力と量子化条件で、返答までの時間、回答の正確さ、繰り返し使ったときの安定性を比べたい。その検証がそろえば、手元のPS5に短い対話を任せるのか、長いコード編集にも使うのかを、パラメータ数以外の材料で選べるようになる。
