NVIDIA GeForce RTX 50xx with CUDA capability sm_120 is not compatible with the current PyTorch installation. が発生したとき

NVIDIA GeForce RTX 50xx with CUDA capability sm_120 is not compatible with the current PyTorch installation. が発生したとき

こんにちは、PyTorch 2.6.0 環境で以下のような問題が発生したときの対処方法について解説いたします。

NVIDIA GeForce RTX 5090 with CUDA capability sm_120 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_50 sm_60 sm_70 sm_75 sm_80 sm_86 sm_90.

他のBlackwell GeForce の場合は以下のようなメッセージとなります。

NVIDIA GeForce RTX 5080 with CUDA capability sm_120 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_50 sm_60 sm_70 sm_75 sm_80 sm_86 sm_90.

NVIDIA GeForce RTX 5070 with CUDA capability sm_120 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_50 sm_60 sm_70 sm_75 sm_80 sm_86 sm_90.

NVIDIA GeForce RTX 5060 with CUDA capability sm_120 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_50 sm_60 sm_70 sm_75 sm_80 sm_86 sm_90.

NVIDIA GeForce RTX 5060Ti with CUDA capability sm_120 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_50 sm_60 sm_70 sm_75 sm_80 sm_86 sm_90.

これは、PyTorch 2.6.0 が Capabiility Level SM_90 までしかサポートしていないことにより発生しますので、 PyTorch を最新版にする必要があります。

なお、GPU(Capability Level)ごとのPyTorchサポートについては以下の記事で確認できます

●PyTorchバージョンとNVIDIA GPU Compute Capability Level サポート

https://blog.qualiteg.com/pytorch_and_supported_gpu_version/

最新のPyTorch ( PyTorch 2.8.0)を導入する

本稿執筆時点(2025/9/10)の最新のStable版PyTorch は 2.8.0 となっていますので、そちらを導入します。

RTX 5070Ti 等のSM_120のCapability を持っているGPU対応CUDAは13.0ですが、現時点でまだ CUDA13.0用のPyTorchはリリースされていませんので、ここでは、CUDA 12.8 対応の最新PyTorch v2.8.0 を導入します。

既存のPyTorchをアンインストールする

pip uninstall torch torchaudio torchvision

最新のPyTorchをインストール

pip install torch2.8.0+cu128 torchvision0.23.0+cu128 torchaudio==2.8.0+cu128 --index-url https://download.pytorch.org/whl/cu128

これで、最新のGeForce 50シリーズで動作するようになりました!

Qualiteg 技術コンサルティング

最新GPUを、本番の LLM 基盤として使いこなすために。

RTX 5090 のような最新世代を動かすところまで来たら、次は「基盤としてどう組むか」です。私たちは自社で GPU クラスターを運用し、LLM プロダクトを開発しています。

GPU 選定・推論最適化(量子化・vLLM)・マルチGPU / マルチノードの分散構成まで、運用経験に基づいて実践的にアドバイスします。

LLMインフラ・基盤技術の支援を見る →

参考:【公式】PyTorchの最新版インストール方法

https://pytorch.org/get-started/locally/

Read more

ゼロから作るコーディングエージェント【第2回】完了は「作った」ではなく「動いた」で決める。完了の門と、押し戻しに書くこと

ゼロから作るコーディングエージェント【第2回】完了は「作った」ではなく「動いた」で決める。完了の門と、押し戻しに書くこと

モデルの「完了しました」は5つの形ですり抜けました。構文検査だけ、テストは通るが動かない、待ち受けは立つが最初の要求で落ちる、起動するが仕様のAPIが無い、assertの無いテスト。完了の門を3段で閉じる設計と、押し戻しに「落ちた行と調べ方」を書いて「答え」を書かない理由を、数字つきで書きます。

By Qualiteg プロダクト開発部
「Blackwell」は 1 つではなかった。NVIDIA の Compute Capability 番号のわかりにくさを整理する

「Blackwell」は 1 つではなかった。NVIDIA の Compute Capability 番号のわかりにくさを整理する

こんにちは! NVIDIA の GPU を扱っていると、sm_120 や sm_100 といった番号を見かけます。Compute Capability と呼ばれる番号です。 この番号、製品の世代名と対応しているように見えて、実はずれています。 きっかけは、2026年9月23日に公開された TensorRT-LLM の v1.3.0rc28 でした。リリースノートに「SM107」という記述があります。次世代の Rubin に対応した、という文脈です。 ここで引っかかります。Blackwell の GeForce は sm_120 です。次の世代の Rubin が、なぜ 107 という小さい番号なのでしょうか。 調べてみると、引っかかりの原因は Rubin ではありませんでした。

By Qualiteg プロダクト開発部