ローカルLLMという世界 #3 - ローカルLLMから見たMacの選び方

2026-09-09 #AI, ローカルLLM · 9min

← #2：基本編

はじめに

前回はローカルLLMという世界とモデルを動かす上で覚えておきたい言葉について書いたので今回は実際にローカルLLMを動かすためのMacについて書こうと思う。

ローカルLLMからMacを見るとCPUのコア数よりも先に見るものがある。

今使っているMac

今回ローカルLLMを動かしているのは次の構成のMacBook Proだ。

Apple M5 Max
18コアCPU
40コアGPU
128GBユニファイドメモリ
メモリ帯域614GB/s

MacBook Proとしてはかなり大きい構成である。それでもローカルLLMにとって最も大きいのはCPUのコア数よりもまず128GBのメモリの方。なぜならモデルの重みがそこに入らなければ始まらないから。

Macの良いところはユニファイドメモリにあると思っていて、CPUとGPUでRAMを共有できるのでRAMが128GBであればGPU(ほぼ)128GBとして扱えるところ(余談だがAppleはM1Macの頃からユニファイドメモリなのでローカルLLMが未来の形だと見込んでいた可能性がある。Siriしかなかったのによくそんなビジョンを描けたなぁ…)

次に大事なのがメモリ帯域で入った重みをどれくらいの速さで読み出せるかが生成速度に影響する。

128GBあればgpt-oss-120bのような重みが60GBを超えるモデルもOSやKVキャッシュの余白を残して動かせる。

一方でGLM-5.3-FlashやDeepSeek-V4-Flashのように総パラメータが120Bを超えるモデルは量子化やSSDへのオフロードが前提になる。

RAMがどのくらいあれば何が動くのか

自分の試したモデルのハードウェア要件の目安をまとめてみた

表には、実機で試した結果と、モデルの重みの容量などから見積もった目安の両方を含めている。

MacのRAM	現実的な目安	モデルの目安
16GB	4B級なら快適	7B〜12Bの4bit量子化も試せる。 gpt-oss-20bやGemma 4 26B A4Bは起動できても実用はかなり厳しい。実際18GBでもほぼ固まった。
24GB	20B〜31Bの4bit量子化	gpt-oss-20bやGemma 4 26B A4Bは動くはず。ただし18GB RAMのMacでgpt-oss-20Bを動かした時はほぼ固まっていたので24GBでいけるかは怪しい
32〜36GB	20B〜40Bの4bit量子化	上記の20B〜31B級を余裕を持って動かせる。 70B級は強い量子化なら試せるがまともな動きは多分無理。
48GB	30B〜70Bの4bit量子化	70B級が射程に入る。コンテキストを長くするのは多分無理
64GB	70B級の4bit量子化	70B級が動き始める。gpt-oss-120bの公式重みは約60.8GiBなので読み込めても快適に使うことは多分無理。
96GB	70B級と120B級の中間	gpt-oss-120bも快適に動かせるレベル。長いコンテキストや他アプリとの併用では余白に注意
128GB	120B級の4bit量子化	gpt-oss-120bを余裕を持って実行可能。 Qwen3.8-Flash-NextはoMLXなら動く。 300B級は量子化によっては起動できるがある程度性能は諦めることになる。
256GB以上	300B級の量子化	GLM-5.3-FlashやDeepSeek-V4-Flashのような巨大MoEもメモリ上で扱いやすくなる。ここから上は無限の世界。自宅に生まれたフロンティア

⚠️日常的な長さのコンテキストを想定した概算である。

「起動する」と「快適に使える」は違うことに注意!!!

逆にメモリに入ってもチップのメモリ帯域が狭ければDecodeは遅くなる。

ローカルLLMから見たMacの選び方

すでに書いた通りでローカルLLM用のMacを選ぶときは普通のPC選びと優先順位が少し違う。

CPUのベンチマークやSSD容量から見るのではなく次の順番で決めるとわかりやすい。

⚠️Macの選び方と銘打ってはいるがWindowsであってもモデルを入れる容量とメモリ帯域が重要という考え方は同じである。ただし一般的なWindows PCではシステムRAMとGPUのVRAMが別なので、この後に出てくるMacのRAM容量をそのまま当てはめることはできない。

1. 動かしたいモデルからRAMを決める

最初に「どのモデルまで動かしたいか」を決めておくと良い。

30B級なら32〜36GB、70B級なら64GB、120B級なら128GBが基準になると思われる。

ユニファイドメモリは購入後に増設する前提で選べないので長く使いたいなら一段上を選ぶのが無難ではある。

ただし「いつか巨大モデルを動かすかも」と考え始めると上限がないので実際に使いたいモデルを一つ基準にするか、上限一杯の性能まで上げてお祈りするしかない。

2. メモリ帯域を見る

RAM容量がLLMが動くか？ならメモリ帯域は入った後に快適か？である。

同じ32GBでも無印のチップとPro、同じ64GBでもProとMaxでは生成速度が変わる(倍くらい変わることも多い)

大きなDenseモデルを日常的に使うならRAMだけでなくPro、Max、Ultraと上がるごとに広くなるメモリ帯域にお金を払う意味がある。

逆にたまに動かして待てるならRAMを優先してチップのグレードは抑える選び方もある。

モデルによっては割と早いと感じるモデルも普通にある。そうなってくるとRAMの方が重要になってくる。

3. 新品だけでなく中古も見る?

ローカルLLM用のMacは、最新世代であることよりもRAM容量とメモリ帯域が重要になる。

そのため、RAMが多い旧世代のMaxチップ搭載機は中古も狙い目かもしれない

チップ	メモリ帯域	最大ユニファイドメモリ	ローカルLLMから見たポイント
M1 Pro	200GB/s	32GB	30B級まで。初代だが帯域はM3 Proより広い
M1 Max	400GB/s	64GB	70B級を狙える中古候補。帯域はM5 Proよりも広い
M2 Pro	200GB/s	32GB	M1 Proと同じ帯域と32GBまで
M2 Max	400GB/s	96GB※	70B級に余裕があり、120B級も射程に入る
M3 Pro	150GB/s	36GB	チップは新しいが、帯域はPro系で最も狭い
M3 Max	300GB/s / 400GB/s※	96GB / 128GB※	下位と上位で帯域と最大RAMが違う。中古では構成確認が必須
M4 Pro	273GB/s	48GB	30B級を快適に使う候補
M4 Max	410GB/s / 546GB/s※	128GB※	120B級を狙える。上位構成はM1〜M3 Maxより広帯域
M5 Pro	307GB/s	64GB	70B級までを新品で狙う場合の基準
M5 Max	460GB/s / 614GB/s※	128GB※	120B級向け。今回の40コアGPU版は614GB/s

※ M2 Maxの96GBは38コアGPU版。M3 Maxは14コアCPU・30コアGPU版が300GB/s・最大96GB、16コアCPU・40コアGPU版が400GB/s・最大128GB。

M4 Maxは14コアCPU・32コアGPU版が410GB/s、16コアCPU・40コアGPU版が546GB/s・最大128GB。

M5 Maxは32コアGPU版が460GB/s、40コアGPU版が614GB/s・最大128GB。

この表を見るとチップの数字が大きければローカルLLMも必ず速いとは限らないことがわかる。

たとえばM1 Maxの帯域は400GB/sでM5 Proの307GB/sより広い。

新しいProを選ぶか、古いMaxを選ぶかは、CPU性能やバッテリーだけでなくローカルLLMにどこまでやらせたいかで変わる。

中古で探す時はM3 Maxのようなチップ名だけで決めない。

ユニファイドメモリの容量、CPU・GPUコア数、その構成のメモリ帯域を確認する必要はある。

他にバッテリーなどの問題もあるがその辺は中古の端末を選ぶときに気にすると思うので割愛する

4. 持ち運びたい？

ローカルLLMは長時間GPUとメモリを使う。

持ち運んでどこでも使いたいならMacBook Pro、自宅のサーバーのように使うならMac miniやMac Studioが候補になる。

画面、バッテリー、キーボードを必要としないなら同じメモリ帯域とRAMを持つデスクトップの方が合理的な場合がある。

ただしLLMを動かすとすごい発熱でファンが回るので割り切れるなら精神的には据え置きが良い。

5. SSDはモデル置き場として考える

モデルを試し始めると1つで済まず、量子化の違うファイルがどんどん増える。

20B級で十数GB、120B級では数十GBになるので512GBのSSDは意外とすぐ埋まる。

内蔵SSDを2TB以上にするかモデル保存用の高速な外付けSSDを用意してあげないと辛い。

自分は2TBで買ったが4TBにしておけば…と後悔している節がある

結局どれを選ぶか

したいこと	RAMの基準	Macの考え方
ローカルLLMをまず試す	24〜32GB	無印チップやMac miniで始められる。主戦場は7B〜30B級
30B級を日常的に使う	36〜48GB	Pro以上のメモリ帯域があると快適
70B級まで使う	64GB	速度も求めるならMax。据え置きならMac miniやMac Studioも比較する
120B級を余裕を持って動かす	128GB	MaxのMacBook ProまたはMac Studio。持ち運びの有無で選ぶ
300B級以上をメモリ上で動かす	256GB以上	Ultra搭載のMac Studioが主な候補。個人の趣味としては完全に道楽の世界

次回

次はランタイムとハーネスについて書くつもり。

続き：#4 ランタイムとハーネス