ASUS Prime Z790-A × Ubuntu 3台GPU搭載マシン
gpu-unlock適用でPrefill 2.5倍・TTFT 820msを叩き出した全記録
〜RTX 4070 Ti SUPER + RTX 3060 + RTX 4060構成における実測GEMM 158 TFLOPS、Xid 79障害の完全隔離、全自動再現コード〜
- Strata推論ベンチマーク:
qwen3.8-flash-next-iq3_xxsにおいて、Prefillが 503.3 tok/s → 1,265.7 tok/s(+151.5% / 2.51倍)、TTFTが 1,962 ms → 820 ms(-58.2%短縮) へ劇的向上。 - cuBLAS 13 GEMM実測: RTX 4070 Ti SUPERで 158.5 TFLOPS(FP16)/ 154.0 TFLOPS(BF16) を記録。Tensorコアの理論限界(~176 TFLOPS)の87.5〜90.1%に肉薄し、リミッター解除を実証。
- PCIeバス落ち(Xid 79)の分析と安全設計: RTX 4060で発生したリンク劣化とXid 154連鎖障害を特定。
gpu_roles: 1:"off"と事前検査スクリプトによるフェイルセーフを構築。 - 完全再現コマンド: Prime Z790-AのBIOS設定から、Ubuntuの環境構築、initramfsフックの仕込み、Strata待受(0.0.0.0:47832)までワンストップで記載。
1. 【性能まとめと徹底分析】Strata推論におけるgpu-unlock適用前後の実測比較
まずは結論となる実測ベンチマーク数値から報告します。
ASUS Prime Z790-A上に構築したUbuntu環境において、自律推論サーバー Strata の公式計測ツール(strata-bench)を用い、同一プロンプト・同一モデル(qwen3.8-flash-next-iq3_xxs)でgpu-unlock適用前後の性能を完全測定しました。
| 測定指標 | 適用前 (08:09) | 適用後 (09:09) | 変動差分 | 向上倍率 / 改善率 |
|---|---|---|---|---|
| Prefill (プロンプト処理) | 503.3 tok/s | 1,265.7 tok/s | +762.4 tok/s | +151.5% (2.51倍) |
| TTFT (初回応答レイテンシ) | 1,962 ms | 820 ms | -1,142 ms | -58.2% (2.39倍高速) |
| Decode (逐次生成速度) | 68.9 tok/s | 84.8 tok/s | +15.9 tok/s | +23.1% (1.23倍) |
なぜPrefillは2.5倍に爆伸し、Decodeは+23%にとどまったのか?
この実測データは、LLM推論における「計算律速(Compute-bound)」と「メモリ帯域律速(Memory-bound)」の物理的な境界線を極めて明瞭に浮き彫りにしています。
- Prefillフェーズ(Compute-bound): 入力された長いプロンプトを一括で処理するバッチ行列積(GEMM)が支配的です。GeForceで制限されていた「FP16/BF16入力・FP32累積演算の発行レート」がアンロックされたことで、Tensorコアの物理演算能力がダイレクトに反映され、理論限界値(約2倍)を超える +151.5%(2.51倍) の急伸を記録しました。
- TTFTの大幅短縮(-58.2%): Prefill速度が2.5倍になったことで、最初の1トークンが出力されるまでの待機時間が 1.96秒から0.82秒へと1秒の壁を突破 しました。エージェントや対話インターフェースにおける体感レスポンスの向上において、最も決定的な成果です。
- Decodeフェーズ(Memory-bound): 1トークンずつ順番に出力していく逐次生成は、VRAMからモデルの重みを読み出すメモリ帯域幅に律速されます。4070 Ti SUPER(504 GB/s)と3060(360 GB/s)の物理メモリ帯域が増えるわけではないため、演算器がいくら速くなっても劇的な倍増は原理的に起きません。それでも +23.1% 向上したのは、キャッシュ効率化とTensorコア処理短縮による純粋なパイプライン最適化の成果です。
2. 【cuBLAS 13 GEMM実測】Tensorコア制限解除(154〜158 TFLOPS)の工学的裏付け
Strata推論の向上がアンロックによるものであることをハードウェア層で裏付けるため、PyTorch等のオーバーヘッドを排した C言語ネイティブ計測プログラム(gemm_bench.c) を作成し、NVIDIA公式ドライバ 595.99.02 同梱の libcublas.so.13 を直接叩いて行列サイズ 2048³ でGEMMスループットを精密測定しました。
| 演算モード (2048³) | 4070 Ti SUPER 実測 | 理論ピーク (2.61GHz) | 理論比 (効率) | 工学的判定 |
|---|---|---|---|---|
| BF16 → FP32 累算 | 154.0 TFLOPS | ~176 TFLOPS | 87.5% | リミッター解除を完全実証(半速制限時は90 TFLOPS未満) |
| FP16 → FP32 累算 | 158.5 TFLOPS | ~176 TFLOPS | 90.1% | ハードウェア理論限界の約9割に到達 |
| TF32 (Tensor) | 73.1〜79.0 TFLOPS | ~88 TFLOPS | 83.0% | FP16のちょうど半分(理論設計と完全合致) |
| FP32 (CUDA Core単体) | 27.5 TFLOPS | ~44.1 TFLOPS | 62.3% | Tensor不使用時の通常演算ベースライン |
| 4万回連続持続負荷 | 137.5 TFLOPS | TDP 285W上限 | 実効78.1% | 電力制限(Power Violation)による熱飽和値 |
サブの RTX 3060 12GB においても、2048³ で 39.1〜41.4 TFLOPS(理論51 TFLOPSに対して 77〜82%)を記録しました。 Ada Lovelace世代(4070 Ti SUPER)とAmpere世代(3060)の双方が、全く同一の効率帯(78〜90%)で制限解除されていることが確認できます。
3. 【実録トラブルシューティング】RTX 4060 バス落ち(Xid 79)の原因と安全隔離設計
3台のGPU(4070 Ti SUPER + 4060 + 3060)を同時装着して負荷テストを行った際、重大なシステム再起動が発生しました。 ログを詳細に調査したところ、ハードウェアの故障ではなく、「PCIeリンクの信号劣化によるバス落ち(Xid 79)」 が原因であることが判明しました。
障害のメカニズムと対策
- 原因: RTX 4060(PCI ID:
0000:05:00.0)が接続されていたチップセット側スロットにおいて、負荷時に信号品質が低下し、リンク速度がGen1 x4に低下。パケットロスによりGPUがバスから脱落(Xid 79)しました。 - 連鎖障害: 1台が落ちたことで、Unified Virtual Memory(UVM)ドライバが世界障害(
0x60)を検知し、全GPUに対してNode Reboot Required (Xid 154)を発行して再起動に至りました。 - 二重の安全隔離策:
- Strata設定:
gpu_roles: { 0: "main", 1: "off", 2: "helper" }として 4060 を推論パイプラインから完全除外。 - 計測スクリプト: 事前に
/sys/bus/pci/devices/.../current_link_speedおよびdmesgの AER/Xid を検査し、リンク劣化が検知されたGPUは即座に測定拒否(exit 3)する安全インターロックを導入。
- Strata設定:
4. 【完全再現ステップ 1】ASUS Prime Z790-A ハードウェア配置とBIOS設定
マルチGPU環境をLinuxで安定稼働させるための物理配置とUEFI BIOS設定です。
- PCIe Slot 1 (CPU直結 x16): RTX 4070 Ti SUPER 16GB(主力推論)
- PCIe Slot 2 (PCH x4): RTX 3060 12GB(VRAM拡張・helper推論)
- PCIe Slot 3 (PCH x4): RTX 4060 8GB(検証用・安定化まで隔離)
- 電源ユニット: 1000W 80PLUS GOLD(各GPUへタコ足配線せず独立PCIe電源ケーブルを直結)
必須BIOS設定(起動時に「DEL」または「F2」でUEFIへ)
- Above 4G Decoding:
Enabled(複数GPUのアドレス空間を確保するために必須) - Re-Size BAR Support:
Enabled(VRAM全域への高速ダイレクトアクセスを許可) - PCIe Link Speed (PCH Slots):
GEN3またはGEN4明示固定(Autoによるネゴシエーションエラーを防止) - Native ASPM:
Disabled(省電力ステート移行に伴うバス落ちを防止)
5. 【完全再現ステップ 2】Ubuntu 24.04 LTS セットアップとNVIDIAドライバ導入
OSのインストールから、最新ドライバおよびCUDA環境の構築コマンドです。
6. 【完全再現ステップ 3】2世代混在対応 gpu-unlock の導入と initramfs パッチ
ドライバが初期化される前にPCIeコンフィグレーション空間へ介入するため、initramfsフックとしてアンロックバイナリを仕込みます。
7. 【完全再現ステップ 4】cuBLAS 13 直結 GEMM 計測スクリプト(安全保護付き)
CUDA Toolkitのフルインストールを必要とせず、Strata同梱の libcublas.so.13 を動的ロード(dlopen)して安全にTFLOPSを実測するベンチマーク環境です。
8. 【完全再現ステップ 5】Strata 常時稼働と Tailscale 連携
GPUロール(4070 Ti SUPER: 主力、3060: helper、4060: off)を定義し、Tailscale経由でどこからでも呼び出せるよう 0.0.0.0:47832 で待受起動します。
9. 総括:個人が構築できる最高峰のローカルAI基盤
ASUS Prime Z790-Aを母艦とし、RTX 4070 Ti SUPERとRTX 3060を束ねてgpu-unlockを適用した本システムは、数十万円〜百万円を超えるエンタープライズGPUを導入することなく、市販のGeForceだけでプロ向け同等のPrefill演算スループット(1,265 tok/s)と極小TTFT(820ms) を実現できる画期的な構成です。
マルチGPU運用時のPCIeレーン配分やXid 79といったシグナルインテグリティの課題も、ソフトウェア側の事前検査と安全隔離(gpu_roles: 1:"off")を徹底することで完全に克服できます。
ローカルAIの限界を押し広げたい方は、ぜひ本手順を参考に自作AI基盤を構築してみてください。