NVIDIA GPU と Capability Level

NVIDIA GPU と Capability Level
Photo by Andrey Matveev / Unsplash

NVIDIA GPU の Capability Level の一覧です。

推論エンジンがサポートする各種アクセラレーション機能は Capability Level により搭載されるハードウェアアクセラレータや専用機能が異なります。

データセンター/プロ向けGPU GeForce GPU Capability Level 世代名
NVIDIA B200 - 100 Blackwell
NVIDIA B100 - 100 Blackwell
NVIDIA H200 - 90 Hopper
NVIDIA H100 - 90 Hopper
NVIDIA L4 - 89 Ada Lovelace
NVIDIA L40 - 89 Ada Lovelace
RTX 6000 Ada Generation - 89 Ada Lovelace
RTX 5000 Ada Generation - 89 Ada Lovelace
RTX 4000 Ada Generation - 89 Ada Lovelace
RTX 3000 Ada Generation - 89 Ada Lovelace
- GeForce RTX 4090 89 Ada Lovelace
- GeForce RTX 4080 89 Ada Lovelace
- GeForce RTX 4070 Ti / 4070 89 Ada Lovelace
- GeForce RTX 4060 Ti / 4060 89 Ada Lovelace
- GeForce RTX 4050 89 Ada Lovelace
NVIDIA A40 - 86 Ampere
NVIDIA A10 - 86 Ampere
NVIDIA A16 - 86 Ampere
NVIDIA A2 - 86 Ampere
RTX A6000 - 86 Ampere
RTX A5000 - 86 Ampere
RTX A4000 - 86 Ampere
RTX A3000 - 86 Ampere
RTX A2000 - 86 Ampere
RTX A1000 - 86 Ampere
- GeForce RTX 3090 Ti / 3090 86 Ampere
- GeForce RTX 3080 Ti / 3080 86 Ampere
- GeForce RTX 3070 Ti / 3070 86 Ampere
- GeForce RTX 3060 Ti / 3060 86 Ampere
- GeForce RTX 3050 Ti / 3050 86 Ampere
NVIDIA A100 - 80 Ampere
NVIDIA A30 - 80 Ampere
NVIDIA T4 - 75 Turing
T400 - 75 Turing
Quadro RTX 8000 - 75 Turing
Quadro RTX 6000 - 75 Turing
Quadro RTX 5000 - 75 Turing
Quadro RTX 4000 - 75 Turing
RTX 5000 - 75 Turing
RTX 4000 - 75 Turing
RTX 3000 - 75 Turing
T2000 - 75 Turing
T1200 - 75 Turing
T1000 - 75 Turing
T600 - 75 Turing
T500 - 75 Turing
NVIDIA TITAN RTX - 75 Turing
- GeForce RTX 2080 Ti / 2080 Super / 2080 75 Turing
- GeForce RTX 2070 Super / 2070 75 Turing
- GeForce RTX 2060 Super / 2060 75 Turing
- GeForce GTX 1660 Ti / 1660 Super / 1660 75 Turing
- GeForce GTX 1650 Super / 1650 Ti / 1650 75 Turing
NVIDIA V100 - 70 Volta
Quadro GV100 - 70 Volta
NVIDIA TITAN V - 70 Volta

Read more

GPUメモリ最適化の深層:初回と最終バッチの特殊性を踏まえた効率的なAI画像処理

GPUメモリ最適化の深層:初回と最終バッチの特殊性を踏まえた効率的なAI画像処理

はじめに こんにちは!Qualitegプロダクト開発部です。 当社では、LLMテクノロジーをベースとしたAIキャラクター、AIヒューマンの研究開発を行っています。そんな中、表情、仕草のように「人間らしさ」をもったバーチャルヒューマンを再現するときには画像生成、画像編集といったAIを活用した画像処理が必要となります。 人と対話するAIヒューマンやバーチャルヒューマンはタイムリーに表情や仕草を生成する必要があるため、複数の画像をフレーム連結してつくるモーション(シンプルにいうと動画)を短時間に生成する必要があります。 このようなとき、AIトレーニングやシンプルな推論とは異なり、いかにGPUの能力を引き出してやるか「GPUの使いこなし術」がミソとなります。 GPUの使いこなし術というと、以前のブログにも連続バッチやダイナミックバッチについてLLM推論のコンテクストで語りましたが、本日は画像処理におけるGPUメモリ最適化、とくに、推論時バッチにおける「初回と最終回」のお作法という少しマニアックな話題について語ってみようとおもいます。 画像処理とGPU GPUを用いた画像

By Qualiteg プロダクト開発部
Qualitegセレクション:アイディア深堀編③RoundRobinの活用術

Qualitegセレクション:アイディア深堀編③RoundRobinの活用術

Qualiteg blogを訪問してくださった皆様、こんにちは。Micheleです。AIを活用した新規事業やマーケティングを手がけている私には、クライアントからよく寄せられる質問があります。AIを用いた事業展開を検討されている方々が共通して直面するであろう課題に対して、このブログを通じて私なりの解答をご提供したいと思います。 Qualitegセレクション、アイディア深堀編もいよいよ第3弾!今回は、複数人でアイディアを発散・深堀する際に効果的な RoundRobin(ラウンドロビン) という手法をご紹介します。ブレインストーミングに行き詰まった時や、多様な視点を取り入れたい時にぜひ活用してみてください。 RoundRobinとは? RoundRobinとは、様々な場面で用いられますが、大抵の場合において「持ち回り」、つまり「何かの役割・出番をたくさんの物事・人員で交替しあう」というような意味で使うことが多いです。 ここでは、参加者全員が順番にアイディアを出し、それを記録していく手法をRoundRobinと呼んでいます。順番に意見を述べることで、発言力の差による偏りをなくし、全

By Join us, Michele on Qualiteg's adventure to innovation
PyTorchバージョンとNVIDIA GPU Compute Capability Level サポート

PyTorchバージョンとNVIDIA GPU Compute Capability Level サポート

古いPyTorchコード資産を持っている会社は、昔のコードが最新のPyTorchで動かない!最新のGPUで動かない!ということに遭遇することが多いのでしょうか。 今回は、PyTorchバージョン、対応GPU Capability Level 、対応CUDAバージョンについてまとめてみます。 PyTorchがサポートするGPUの Compute Capability PyTorch バージョン サポートされる Compute Capability (SM) レベル 1.0.0 - 1.3.1 SM_35, SM_37, SM_50, SM_60, SM_61, SM_70 1.4.0 - 1.7.1 SM_37, SM_50,

By Qualiteg プロダクト開発部
Qualitegセレクション:アイディア深堀編②6W2Hの活用術

Qualitegセレクション:アイディア深堀編②6W2Hの活用術

Qualiteg blogを訪問してくださった皆様、こんにちは。Micheleです。AIを活用した新規事業やマーケティングを手がけている私には、クライアントからよく寄せられる質問があります。AIを用いた事業展開を検討されている方々が共通して直面するであろう課題に対して、このブログを通じて私なりの解答をご提供したいと思います。 本日のテーマは6W2H Qualitegセレクションは、ユーザーエクスペリエンス(UX)向上のためのヒントやツールを紹介するシリーズです。今回は、アイディアをより具体的に、実行可能なレベルまで深堀りする手法として、6W2Hの活用術をご紹介します。 優れたUXを実現するには、ユーザーのニーズを深く理解し、それを満たすサービスやプロダクトを提供することが不可欠です。そのためには、アイディア段階で徹底的に検討し、実現可能性や課題を明確にする必要があります。 今回は、アイディアを深堀りする際に非常に役立つツール「6W2H」について詳しくご紹介します。 6W2Hとは? 6W2Hは、問題解決や状況分析のための強力なフレームワークです。以下の8つの質問から構成さ

By Join us, Michele on Qualiteg's adventure to innovation