NVIDIA GeForce RTX 50xx with CUDA capability sm_120 is not compatible with the current PyTorch installation. が発生したとき

NVIDIA GeForce RTX 50xx with CUDA capability sm_120 is not compatible with the current PyTorch installation. が発生したとき

こんにちは、PyTorch 2.6.0 環境で以下のような問題が発生したときの対処方法について解説いたします。

NVIDIA GeForce RTX 5090 with CUDA capability sm_120 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_50 sm_60 sm_70 sm_75 sm_80 sm_86 sm_90.

他のBlackwell GeForce の場合は以下のようなメッセージとなります。

NVIDIA GeForce RTX 5080 with CUDA capability sm_120 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_50 sm_60 sm_70 sm_75 sm_80 sm_86 sm_90.

NVIDIA GeForce RTX 5070 with CUDA capability sm_120 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_50 sm_60 sm_70 sm_75 sm_80 sm_86 sm_90.

NVIDIA GeForce RTX 5060 with CUDA capability sm_120 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_50 sm_60 sm_70 sm_75 sm_80 sm_86 sm_90.

NVIDIA GeForce RTX 5060Ti with CUDA capability sm_120 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_50 sm_60 sm_70 sm_75 sm_80 sm_86 sm_90.

これは、PyTorch 2.6.0 が Capabiility Level SM_90 までしかサポートしていないことにより発生しますので、 PyTorch を最新版にする必要があります。

なお、GPU(Capability Level)ごとのPyTorchサポートについては以下の記事で確認できます

●PyTorchバージョンとNVIDIA GPU Compute Capability Level サポート

https://blog.qualiteg.com/pytorch_and_supported_gpu_version/

最新のPyTorch ( PyTorch 2.8.0)を導入する

本稿執筆時点(2025/9/10)の最新のStable版PyTorch は 2.8.0 となっていますので、そちらを導入します。

RTX 5070Ti 等のSM_120のCapability を持っているGPU対応CUDAは13.0ですが、現時点でまだ CUDA13.0用のPyTorchはリリースされていませんので、ここでは、CUDA 12.8 対応の最新PyTorch v2.8.0 を導入します。

既存のPyTorchをアンインストールする

pip uninstall torch torchaudio torchvision

最新のPyTorchをインストール

pip install torch2.8.0+cu128 torchvision0.23.0+cu128 torchaudio==2.8.0+cu128 --index-url https://download.pytorch.org/whl/cu128

これで、最新のGeForce 50シリーズで動作するようになりました!

Qualiteg 技術コンサルティング

最新GPUを、本番の LLM 基盤として使いこなすために。

RTX 5090 のような最新世代を動かすところまで来たら、次は「基盤としてどう組むか」です。私たちは自社で GPU クラスターを運用し、LLM プロダクトを開発しています。

GPU 選定・推論最適化(量子化・vLLM)・マルチGPU / マルチノードの分散構成まで、運用経験に基づいて実践的にアドバイスします。

LLMインフラ・基盤技術の支援を見る →

参考:【公式】PyTorchの最新版インストール方法

https://pytorch.org/get-started/locally/

Read more

ゼロから作るコーディングエージェント【第3回】「止まらなかった」は「進んだ」ではない。空転を数え、思考は切らずに上限だけ置く

ゼロから作るコーディングエージェント【第3回】「止まらなかった」は「進んだ」ではない。空転を数え、思考は切らずに上限だけ置く

300ターン走ってAPIが0本。「モデルの限界」と結論を書いた翌日、記録を読み直すと234ターンがツールを1度も呼んでいませんでした。空転率という指標、1つ塞ぐと次の形に移る空転、思考をオフにすると95点が71点に落ちて時間も縮まなかった話、出力枠を広げたら反対側を数える話を書きます。

By Qualiteg プロダクト開発部
Ubuntuの自動更新でカーネルだけ上がり、再起動したらGPUが消えた。NVIDIAモジュールが置き去りになる原因と3つの対策

Ubuntuの自動更新でカーネルだけ上がり、再起動したらGPUが消えた。NVIDIAモジュールが置き去りになる原因と3つの対策

Ubuntu 24.04のGPUサーバーを再起動したらnvidia-smiが動かない。原因はunattended-upgradesがカーネルだけを更新し、NVIDIAモジュールが依存関係の都合で見送られていたこと。ログで原因を突き止め、1コマンドで復旧し、apt-mark holdを含む3つの再発防止策を比べて採用した記録。

By Qualiteg プロダクト開発部
ゼロから作るコーディングエージェント【第2回】完了は「作った」ではなく「動いた」で決める。完了の門と、押し戻しに書くこと

ゼロから作るコーディングエージェント【第2回】完了は「作った」ではなく「動いた」で決める。完了の門と、押し戻しに書くこと

モデルの「完了しました」は5つの形ですり抜けました。構文検査だけ、テストは通るが動かない、待ち受けは立つが最初の要求で落ちる、起動するが仕様のAPIが無い、assertの無いテスト。完了の門を3段で閉じる設計と、押し戻しに「落ちた行と調べ方」を書いて「答え」を書かない理由を、数字つきで書きます。

By Qualiteg プロダクト開発部