PyTorch

PyTorchバージョンとNVIDIA GPU Compute Capability Level サポート

Qualiteg プロダクト開発部

2024年9月22日 — 2 min read

Photo by Christian Wiediger / Unsplash

古いPyTorchコード資産を持っている会社は、昔のコードが最新のPyTorchで動かない！最新のGPUで動かない！ということに遭遇することが多いのでしょうか。
今回は、PyTorchバージョン、対応GPU Capability Level 、対応CUDAバージョンについてまとめてみます。

PyTorchがサポートするGPUの Compute Capability

PyTorch バージョン	サポートされる Compute Capability (SM) レベル
1.0.0 - 1.3.1	SM_35, SM_37, SM_50, SM_60, SM_61, SM_70
1.4.0 - 1.7.1	SM_37, SM_50, SM_60, SM_61, SM_70, SM_75
1.8.0 - 1.8.1	SM_37, SM_50, SM_60, SM_70, SM_75, SM_80
1.9.0 - 1.12.1	SM_37, SM_50, SM_60, SM_70, SM_75, SM_80, SM_86
1.13.0 - 2.0.1	SM_37, SM_50, SM_60, SM_70, SM_75, SM_80, SM_86, SM_89, SM_90
2.1.0 -2.60	SM_50, SM_60, SM_70, SM_75, SM_80, SM_86, SM_89, SM_90
2.8.0 -2.90	SM_50, SM_60, SM_70, SM_75, SM_80, SM_86, SM_89, SM_90, SM_100, SM_120

PyTorch旧バージョンインストール方法参考ページ

https://pytorch.org/get-started/previous-versions/

PyTorchがサポートするPythonバージョン

PyTorch バージョン	サポートされる Python バージョン
1.4.0 - 1.7.1	3.6, 3.7, 3.8
1.8.0 - 1.9.1	3.6, 3.7, 3.8, 3.9
1.10.0 - 1.12.1	3.7, 3.8, 3.9, 3.10
1.13.0 - 2.0.1	3.8, 3.9, 3.10, 3.11
2.1.0 - 2.6.0	3.8, 3.9, 3.10, 3.11, 3.12
2.8.0 以降	3.9, 3.10, 3.11, 3.12

Compute Capabilityと代表的GPUラインナップ

SM_世代	データセンター/プロ向けGPU	GeForce GPU
SM_120 (Blackwell)	-	GeForce RTX 5090, RTX 5080, RTX 5070, RTX 5060
SM_100 (Blackwell)	NVIDIA B100 (GB100), B200, GB202, GB203, GB205, GB206, GB207, NVIDIA B40, RTX PRO 6000 Blackwell	-
SM_90 (Hopper)	NVIDIA H100, NVIDIA H200	-
SM_89 (Ada Lovelace)	NVIDIA L4, NVIDIA L40, RTX 6000 Ada Generation, L40s Ada	GeForce RTX 4090, GeForce RTX 4080, GeForce RTX 4070 Ti / 4070, GeForce RTX 4060 Ti / 4060, GeForce RTX 4050
SM_86, SM_87 (Ampere)	NVIDIA A100, NVIDIA A30, NVIDIA A40, RTX A2000, A3000, RTX A4000, A5000, A6000, A10, A16, A2 Tensor Core GPU, A800 40GB	GeForce RTX 3090, GeForce RTX 3080, GeForce RTX 3070, GeForce RTX 3060, GeForce RTX 3050
SM_75 (Turing)	Quadro RTX 8000, RTX 6000, RTX 5000, RTX 4000, T4	GeForce RTX 2080 Ti, GeForce RTX 2070, GeForce GTX 1660 Ti
SM_70, SM_72 (Volta)	Tesla V100, Quadro GV100, Titan V, Xavier NX	-
SM_60, SM_61, SM_62 (Pascal)	Tesla P100, Quadro GP100	GeForce GTX 1080, GTX 1070, GTX 1060, GTX 1050, GTX 1030, GT 1010, Titan Xp
SM_50, SM_52, SM_53 (Maxwell)	Tesla M-series, Quadro M6000	GeForce GTX 980 Ti, GTX Titan X, GTX 980, GTX 970
SM_35, SM_37 (Kepler)	Tesla K40, Tesla K80	-
SM_30 (Kepler)	-	GeForce 700シリーズ, GT-730
SM_20 (Fermi)	-	GeForce 400, 500, 600, GT-630

出展: https://blog.qualiteg.com/nvidia-gpu-capability-level/

対応CUDAバージョン

SM_世代	アーキテクチャ	互換性のある最小CUDAバージョン	CUDA 12.6での状態
SM_120	Blackwell	CUDA 13.0以降	非対応
SM_100	Blackwell	-	-
SM_90	Hopper	CUDA 12.0以降	対応
SM_89	Ada Lovelace	CUDA 11.8以降	対応
SM_86, SM_87	Ampere	CUDA 11.1以降	対応
SM_80	Ampere	CUDA 11.0以降	対応
SM_75	Turing	CUDA 10.0以降	対応
SM_70, SM_72	Volta	CUDA 9.0以降	対応
SM_60, SM_61, SM_62	Pascal	CUDA 8.0以降	対応
SM_50, SM_52, SM_53	Maxwell	CUDA 6.0以降	対応
SM_30, SM_35, SM_37	Kepler	CUDA 5.0以降	サポート終了
SM_20	Fermi	CUDA 3.2以降	サポート終了

関連ポスト

・NVIDIA GPU 一覧・検索ツール
・NVIDIA GPU と Capability Level

Read more

個人情報検出の精度を、どう正しく語るか ― Recall、信頼区間、代表性から考える評価設計

個人情報検出の精度を、どう正しく語るか ― Recall、信頼区間、代表性から考える評価設計

こんにちは。Qualiteg研究部です。私たちは、個人情報（PII）や機密情報、要配慮個人情報を含むセンシティブな情報を検出・マスキングする技術(https://pii-fi.com)の開発に取り組んでいます。その中で日々向き合っているのが、「精度の数字を、どうすれば正直に、正しく語れるのか」という問題です。たとえば、検出器の Recall（再現率）が 0.95 だったとします。これは高い数字に見えます。しかし、その数字はどの種類の文書で測ったものなのか。正解データはどう作ったのか。サンプル数は十分なのか。別の業務文書にも同じ数字を当てはめてよいのか。精度の数字は、単独ではほとんど意味を持ちません。「何を、どの条件で、どう数えたか」とセットになって、はじめて実務で使える数字になります。本記事では、私たちが PII 検出の精度評価に取り組む中で得た、精度を誠実に語るための考え方を紹介します。アルゴリズムの中身ではなく、評価のしかたに焦点を当てます。 1. はじめに：「Recall 0.95

一文の依頼で、調査から資料作成まで。AIエージェント「Bestllam」のデモ動画を公開しました

一文の依頼で、調査から資料作成まで。AIエージェント「Bestllam」のデモ動画を公開しました

こんにちは！本日は当社の統合AIプラットフォーム "Bestllam®" の AIエージェント機能のデモをご紹介いたします！「指示は出せても、AIが本当に仕事を仕上げてくれるのか」生成AIを業務に取り入れる企業が増えています。しかし現場からは、こんな本音も聞こえてきます。「使い方を覚えるより、自分でやったほうが早い」「指示を細かく出し直しているうちに、結局時間がかかる」「便利なのは分かるが、機密情報を入力していいのか不安」 AIを"個人の便利ツール"の域から、"部門の成果"へと引き上げる。これが当社の法人向け統合AIプラットフォーム Bestllam（ベストラム）が掲げるテーマです。今回、そのAIエージェント機能を実際の操作画面とともに紹介する動画を公開しました。たった一文の依頼が、7枚のレポートになるまで動画のデモはシンプルです。エージェントに、こう入力します。「先月の売上を年代別に分析し、資料にまとめてください」これだけです。すると、エージェントはまず自分でTODOリストを組み立て、何をどの順番で進めるかという段取りを示します

NCCL error: unhandled cuda error が出たら ─ WSL2 + マルチGPU + vLLM で詰まった話

NCCL error: unhandled cuda error が出たら ─ WSL2 + マルチGPU + vLLM で詰まった話

こんにちは! Qualitegプロダクト開発部です！今日は、Windows + WSL2 のマシンに RTX 4090 を2枚挿して、大規模なオープンモデルを vLLM で動かそうとしたら、NCCL の初期化で見事に詰まった話を書きます。世の中に断片的にしか情報がなく、抜けるまでにかなり粘ったので、同じ構成で消耗している方の時間を少しでも節約できれば嬉しいです。経緯今回の目的は、次々と登場する最新のオープンモデル（オープンウェイトのLLM）を、手元で評価することでした。オープンモデルは数週間単位で新しいものが出てきます。ベンチマークの数字だけでなく、自分たちのユースケースに対して実際にどう振る舞うのか——出力の質、速度、量子化したときの劣化具合、エージェント的なタスクの得手不得手——を、手を動かして確かめています今回の環境は Windows + WSL2(Ubuntu) に RTX 4090 を2枚(各24GB)挿したマシンです。 nvidia-smi 上の CUDA Version は 12.8。動かすのは大規模オープンモデルを

Claude Codeで「The model's tool call could not be parsed」が頻発する問題の原因分析と対策

Claude Codeで「The model's tool call could not be parsed」が頻発する問題の原因分析と対策

こんにちは！Qualitegプロダクト開発部です。 Claude Code（CLI）を使った開発中に、次のようなエラーが繰り返し表示されて作業が止まる現象に遭遇しました。 ● The model's tool call could not be parsed (retry also failed). リトライしても直らず、/clear で会話をリセットしても、しばらく作業を続けるとまた同じエラーが出るという状況です。本記事では、実際のセッションログ（jsonl）を解析して特定した原因と、その対策について共有します。結論から書くと、これは利用者側の設定ミスやコンテキスト枯渇が原因ではなく、 Opus 4.7（1Mコンテキスト）+ extended thinking の組み合わせで発生する、モデル応答側のストリーミングバグでした。現象エラーが発生した環境は以下のとおりです。 * Claude Code 2.1.148 * モデル: Opus 4.