NVIDIA GPU と Capability Level

NVIDIA GPU と Capability Level
Photo by Andrey Matveev / Unsplash

NVIDIA GPU の Capability Level の一覧です。

推論エンジンがサポートする各種アクセラレーション機能は Capability Level により搭載されるハードウェアアクセラレータや専用機能が異なります。

データセンター/プロ向けGPU GeForce GPU Capability Level 世代名
- GeForce RTX 5090 120 Blackwell
- GeForce RTX 5080 120 Blackwell
- GeForce RTX 5070 120 Blackwell
- GeForce RTX 5060 120 Blackwell
NVIDIA B200 - 100 Blackwell
NVIDIA B100 - 100 Blackwell
NVIDIA H200 - 90 Hopper
NVIDIA H100 - 90 Hopper
NVIDIA L4 - 89 Ada Lovelace
NVIDIA L40 - 89 Ada Lovelace
RTX 6000 Ada Generation - 89 Ada Lovelace
RTX 5000 Ada Generation - 89 Ada Lovelace
RTX 4000 Ada Generation - 89 Ada Lovelace
RTX 3000 Ada Generation - 89 Ada Lovelace
- GeForce RTX 4090 89 Ada Lovelace
- GeForce RTX 4080 89 Ada Lovelace
- GeForce RTX 4070 Ti / 4070 89 Ada Lovelace
- GeForce RTX 4060 Ti / 4060 89 Ada Lovelace
- GeForce RTX 4050 89 Ada Lovelace
NVIDIA A40 - 86 Ampere
NVIDIA A10 - 86 Ampere
NVIDIA A16 - 86 Ampere
NVIDIA A2 - 86 Ampere
RTX A6000 - 86 Ampere
RTX A5000 - 86 Ampere
RTX A4000 - 86 Ampere
RTX A3000 - 86 Ampere
RTX A2000 - 86 Ampere
RTX A1000 - 86 Ampere
- GeForce RTX 3090 Ti / 3090 86 Ampere
- GeForce RTX 3080 Ti / 3080 86 Ampere
- GeForce RTX 3070 Ti / 3070 86 Ampere
- GeForce RTX 3060 Ti / 3060 86 Ampere
- GeForce RTX 3050 Ti / 3050 86 Ampere
NVIDIA A100 - 80 Ampere
NVIDIA A30 - 80 Ampere
NVIDIA T4 - 75 Turing
T400 - 75 Turing
Quadro RTX 8000 - 75 Turing
Quadro RTX 6000 - 75 Turing
Quadro RTX 5000 - 75 Turing
Quadro RTX 4000 - 75 Turing
RTX 5000 - 75 Turing
RTX 4000 - 75 Turing
RTX 3000 - 75 Turing
T2000 - 75 Turing
T1200 - 75 Turing
T1000 - 75 Turing
T600 - 75 Turing
T500 - 75 Turing
NVIDIA TITAN RTX - 75 Turing
- GeForce RTX 2080 Ti / 2080 Super / 2080 75 Turing
- GeForce RTX 2070 Super / 2070 75 Turing
- GeForce RTX 2060 Super / 2060 75 Turing
- GeForce GTX 1660 Ti / 1660 Super / 1660 75 Turing
- GeForce GTX 1650 Super / 1650 Ti / 1650 75 Turing
NVIDIA V100 - 70 Volta
Quadro GV100 - 70 Volta
NVIDIA TITAN V - 70 Volta

Read more

GPUを使った分散処理で見落としがちなCPUボトルネックとtasksetによる解決法

GPUを使った分散処理で見落としがちなCPUボトルネックとtasksetによる解決法

こんにちは! 複数枚のGPUをつかった並列処理システムを設計しているときCPUについてはあまり考えないでシステムを設計してしまうことがあります。 「機械学習システムの主役はGPUなんだから、CPUなんて、あんまり気にしなくてよいのでは」 いいえ、そうでもないんです。 推論中のあるタイミングに急に動作が遅くなったりするときCPUが原因であることがけっこうあります。 概要(5分で分かる要点) 先日GPUを使った並列処理システムで、予期しないCPUボトルネックが発生し、パフォーマンスが大幅に低下する問題に遭遇しました。 複数のプロセスが異なるGPUを使用しているにも関わらず、処理が極端に遅くなる現象の原因は、処理パイプラインの一部に含まれるCPU集約的な計算処理でした。 問題の症状 * 単一プロセス実行時:正常な速度 * 複数プロセス並列実行時:処理時間が数倍に増加 * GPUリソースに競合なし(nvidia-smiで確認済み) 根本原因 処理パイプラインにGPUに適さないCPU集約的な計算(データ前処理、統計変換など)が含まれており、複数プロセスが同じCP

By Qualiteg プロダクト開発部
Model Context Protocol完全実装ガイド 2025- 仕様変遷から最新Streamable HTTPまでの全て

Model Context Protocol完全実装ガイド 2025- 仕様変遷から最新Streamable HTTPまでの全て

こんにちは! 現在、LLM業界で破竹の勢いでひろまっているMCPについて、本日はとくに実装面について解説していきたいとおもいます。 MCP、MCPとひとくちにいっていますが、実は短期間でけっこう「標準」とよばれる仕様が変化しておりますので、仕様のバリエーションを順を追って解説しつつ、実際に実装をしていきたいとおもいます。 さて、MCPですが、2024年後半、Anthropicが発表したModel Context Protocol(MCP)は、AI分野における重要な転換点となりました。 従来、各AIベンダーが独自に実装していたツール呼び出し機能(tool useと呼びます)を標準化し、AIモデルと外部システムの連携を統一的に扱える仕組みを提供しました 本記事で、MCPの誕生から現在に至るまでの技術的変遷を詳細に追いながら、2025年時点での最適な実装方法を完全なソースコードと共に解説します。特に、仕様の変化に振り回されがちな実装者の視点から、なぜ現在の形に収束したのか、そして今後どのような実装アプローチを取るべきかを明確にしていきます。 第1章 MCPが解決しようとした問題

By Qualiteg プロダクト開発部
【出展報告】ASCII STARTUP TechDay 2025

【出展報告】ASCII STARTUP TechDay 2025

こんにちは! 本日、「ASCII STARTUP TechDay 2025」に出展してまいりましたのでレポートさせていただきます! ASCII STARTUP TechDay 2025 ASCII STARTUP TechDay 2025は、2025年11月17日(月)に東京・浅草橋ヒューリックホール&カンファレンスで開催された、ディープテック・スタートアップのエコシステム構築をテーマにした展示交流・カンファレンスイベントです。 秋の展示会は本当にいいですね 本日はとてもよいお天気で、涼しくて、展示会にはピッタリの気候で朝からルンルンでした。しかも午後からの展示会ということで、気持ちに余裕をもって朝の業務をこなしていたところ、けっこうすぐに昼前になり、あわてて現場へ。 浅草橋は当社からもわりと近いという立地の良さを甘く見ておりましたが💦、なんとか予定時刻前に到着しました。やっぱり、都心開催は本当にありがたいですね。 会場へ急いでいると、おなかが「ぐ~」と鳴り 「そういえば、朝食まだだったわ」 とおもったところに、なんと私の大好きなエッセンさん🍞のトラックがあるで

By Qualiteg ビジネス開発本部 | マーケティング部
サブスクビジネス完全攻略 第1回~『アープがさぁ...』『チャーンがさぁ...』にもう困らない完全ガイド

サブスクビジネス完全攻略 第1回~『アープがさぁ...』『チャーンがさぁ...』にもう困らない完全ガイド

なぜサブスクリプションモデルが世界を変えているのか、でもAI台頭でSaaSは終わってしまうの? こんにちは! Qualitegコンサルティングです! 新規事業戦略コンサルタントとして日々クライアントと向き合う中で、ここ最近特に増えているのがSaaSビジネスに関する相談です。興味深いのは、その背景にある動機の多様性です。純粋に収益モデルを改善したい企業もあれば、 「SaaS化を通じて、うちもデジタルネイティブ企業として見られたい」 という願望を持つ伝統的な大企業も少なくありません。 SaaSという言葉が日本のビジネスシーンに本格的に浸透し始めたのは2010年代前半。それから約15年が経ち、今やSaaSは「先進的な企業の証」のように扱われています。 まず SaaSは「サーズ」と読みます。 (「サース」でも間違ではありません、どっちもアリです) ほかにも、 MRR、ARR、アープ、チャーンレート、NRR、Rule of 40…… こうした横文字が飛び交う経営会議に、戸惑いながらも「乗り遅れてはいけない」と焦る新規事業担当者の姿をよく目にします。 しかし一方で、2024

By Qualiteg コンサルティング