PyTorchバージョンとNVIDIA GPU Compute Capability Level サポート
古いPyTorchコード資産を持っている会社は、昔のコードが最新のPyTorchで動かない！最新のGPUで動かない！ということに遭遇することが多いのでしょうか。
今回は、PyTorchバージョン、対応GPU Capability Level 、対応CUDAバージョンについてまとめてみます。
PyTorchがサポートするGPUの Compute Capability
| PyTorch バージョン | サポートされる Compute Capability (SM) レベル |
|---|---|
| 1.0.0 - 1.3.1 | SM_35, SM_37, SM_50, SM_60, SM_61, SM_70 |
| 1.4.0 - 1.7.1 | SM_37, SM_50, SM_60, SM_61, SM_70, SM_75 |
| 1.8.0 - 1.8.1 | SM_37, SM_50, SM_60, SM_70, SM_75, SM_80 |
| 1.9.0 - 1.12.1 | SM_37, SM_50, SM_60, SM_70, SM_75, SM_80, SM_86 |
| 1.13.0 - 2.0.1 | SM_37, SM_50, SM_60, SM_70, SM_75, SM_80, SM_86, SM_90 |
| 2.1.0 以降 | SM_50, SM_60, SM_70, SM_75, SM_80, SM_86, SM_90 |
PyTorchがサポートするPythonバージョン
| PyTorch バージョン | サポートされる Python バージョン |
|---|---|
| 1.4.0 - 1.7.1 | 3.6, 3.7, 3.8 |
| 1.8.0 - 1.9.1 | 3.6, 3.7, 3.8, 3.9 |
| 1.10.0 - 1.12.1 | 3.7, 3.8, 3.9, 3.10 |
| 1.13.0 - 2.0.1 | 3.8, 3.9, 3.10, 3.11 |
| 2.1.0 以降 | 3.8, 3.9, 3.10, 3.11, 3.12 |
Compute Capabilityと代表的GPUラインナップ
| SM_世代 | データセンター/プロ向けGPU | GeForce GPU |
|---|---|---|
| SM_100 (Blackwell) | NVIDIA B100 (GB100), B200, GB202, GB203, GB205, GB206, GB207, NVIDIA B40 | GeForce RTX 5090, RTX 5080 |
| SM_90 (Hopper) | NVIDIA H100, NVIDIA H200 | - |
| SM_89 (Ada Lovelace) | NVIDIA L4, NVIDIA L40, RTX 6000 Ada Generation, L40s Ada | GeForce RTX 4090, GeForce RTX 4080, GeForce RTX 4070 Ti / 4070, GeForce RTX 4060 Ti / 4060, GeForce RTX 4050 |
| SM_86, SM_87 (Ampere) | NVIDIA A100, NVIDIA A30, NVIDIA A40, RTX A2000, A3000, RTX A4000, A5000, A6000, A10, A16, A2 Tensor Core GPU, A800 40GB | GeForce RTX 3090, GeForce RTX 3080, GeForce RTX 3070, GeForce RTX 3060, GeForce RTX 3050 |
| SM_75 (Turing) | Quadro RTX 8000, RTX 6000, RTX 5000, RTX 4000, T4 | GeForce RTX 2080 Ti, GeForce RTX 2070, GeForce GTX 1660 Ti |
| SM_70, SM_72 (Volta) | Tesla V100, Quadro GV100, Titan V, Xavier NX | - |
| SM_60, SM_61, SM_62 (Pascal) | Tesla P100, Quadro GP100 | GeForce GTX 1080, GTX 1070, GTX 1060, GTX 1050, GTX 1030, GT 1010, Titan Xp |
| SM_50, SM_52, SM_53 (Maxwell) | Tesla M-series, Quadro M6000 | GeForce GTX 980 Ti, GTX Titan X, GTX 980, GTX 970 |
| SM_35, SM_37 (Kepler) | Tesla K40, Tesla K80 | - |
| SM_30 (Kepler) | - | GeForce 700シリーズ, GT-730 |
| SM_20 (Fermi) | - | GeForce 400, 500, 600, GT-630 |
出展: https://blog.qualiteg.com/nvidia-gpu-capability-level/
対応CUDAバージョン
| SM_世代 | アーキテクチャ | 互換性のある最小CUDAバージョン | CUDA 12.5での状態 |
|---|---|---|---|
| SM_100 | Blackwell | - | - |
| SM_90 | Hopper | CUDA 12.0以降 | 対応 |
| SM_89 | Ada Lovelace | CUDA 11.8以降 | 対応 |
| SM_86, SM_87 | Ampere | CUDA 11.1以降 | 対応 |
| SM_80 | Ampere | CUDA 11.0以降 | 対応 |
| SM_75 | Turing | CUDA 10.0以降 | 対応 |
| SM_70, SM_72 | Volta | CUDA 9.0以降 | 対応 |
| SM_60, SM_61, SM_62 | Pascal | CUDA 8.0以降 | 対応 |
| SM_50, SM_52, SM_53 | Maxwell | CUDA 6.0以降 | 対応 |
| SM_30, SM_35, SM_37 | Kepler | CUDA 5.0以降 | サポート終了 |
| SM_20 | Fermi | CUDA 3.2以降 | サポート終了 |
![【極めればこのテンソル操作 】tensor.unsqueeze(0)と array[None] の違い](https://images.unsplash.com/photo-1618912617207-0c06851b2dc9?crop=entropy&cs=tinysrgb&fit=max&fm=jpg&ixid=M3wxMTc3M3wwfDF8c2VhcmNofDQ1fHxzcXVlZXplfGVufDB8fHx8MTcyNjExNjYxNHww&ixlib=rb-4.0.3&q=80&w=600)