Raspberry Pi 5（以下RPi5）にNVIDIA RTX 5060 Ti（Blackwellアーキテクチャ）をPCIe接続してNVIDIAドライバーをセットアップしました。最終的にはnvidia-smiが動いたので、ハマったポイントと解決の流れをまとめます。

---

やりたいこと

| やりたいこと | 方法 | |-------------|------| | とりあえずGPUを認識させたい | nvidia-smi で確認 | | LLM（Ollama）をGPUで動かしたい | ollama をインストールして ollama run gpt-oss:20b など | | CUDA動作確認 | CUDAツールキット13.0系（SBSA版）をインストールして nvcc --version | | Vulkanで動作確認（CUDAより簡単） | llama.cpp をVulkanビルドして実行 |

まずnvidia-smiが通るかどうかを確認しました。

---

最初のエラー

masaka@rp5:~ $ nvidia-smi
NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver.
Make sure that the latest NVIDIA driver is installed and running.

ドライバーのユーザースペース部分はインストールされているけど、カーネルモジュールが正しくロードされていない状態でした。

---

トラブルシューティング手順

Step 1：現状診断

以下のコマンドで状態を確認しました。

uname -r
cat /etc/os-release | head -5
lspci | grep -i nvidia
lsmod | grep nvidia
sudo dmesg | grep -i nvidia | tail -20

よくある原因

❶ カーネルが16K（デフォルト）のまま

RPi OSのデフォルトは16Kページカーネルですが、mariobalanicaのパッチは4Kカーネルでしか動きません。

uname -r

→ 6.x.x-v8 なら4K（OK）、16k が付いていたら要変更

修正： 

sudo nano /boot/firmware/config.txt

末尾に追記

kernel=kernel8.img
sudo reboot

❷ カーネルモジュールが未インストール or ビルド失敗 lsmod | grep nvidia で何も出ない場合はモジュールが未インストール。mariobalanicaのパッチ済みモジュールをビルドします。 
sudo apt install -y build-essential linux-headers-$(uname -r) git


git clone --branch non-coherent-arm-fixes \
  https://github.com/mariobalanica/open-gpu-kernel-modules.git ~/open-gpu-kernel-modules



cd ~/open-gpu-kernel-modules
make modules -j$(nproc)
sudo make modules_install -j$(nproc)
sudo depmod -a
sudo reboot

❸ Proprietaryドライバーが入っている（RTX 5060 TiにはNG）

RTX 5060 Ti（Blackwellアーキテクチャ）は必ずOpenドライバーが必要です。

dpkg -l | grep nvidia
sudo apt purge '^nvidia-.*'
sudo apt autoremove
❹ ドライバーバージョンとカーネルモジュールのバージョン不一致 .runでインストールしたユーザースペース側とカーネルモジュール側が同じバージョンでないと通信エラーになります。 
cat /proc/driver/nvidia/version 2>/dev/null
modinfo nvidia 2>/dev/null | grep ^version

---

解決：nvidia-smiが正常動作

上記の手順（基本的にガイド通り）を踏んで再起動したところ、nvidia-smiが通りました。

masaka@rp5:~ $ nvidia-smi
Sun Mar  8 19:05:09 2026
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 580.95.05              Driver Version: 580.95.05      CUDA Version: 13.0     |
+-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|=========================================+========================+======================|
|   0  NVIDIA GeForce RTX 5060 Ti     Off |   00000001:01:00.0 Off |                  N/A |
|  0%   28C    P8              9W /  180W |       1MiB /  16311MiB |      0%      Default |
+-----------------------------------------+------------------------+----------------------+

| 項目 | 結果 | |------|------| | GPU | NVIDIA GeForce RTX 5060 Ti | | ドライバー | 580.95.05（Open GPUカーネルモジュール） | | CUDA | 13.0 | | VRAM | 約16GB | | 温度 | 28°C（アイドル） | | 消費電力 | 9W / 180W（アイドル） |

---

次のステップ

  • Ollamaインストールして ollama run gpt-oss:20b でLLM推論
  • CUDAツールキット13.0系（SBSA版）インストールして nvcc --version 確認
  • llama.cppをVulkanビルドして動作確認

以下、今回購入したものです。これ以外に作業用のUSBケーブルやHDMIモニタが必要だけどこれだけあればできます

※ラズパイOSのフラッシュメモリへの書き込みは自分でやる必要があります。