GPUマシン自作

[自作日記19] SW編: CUDA と Pytorch の導入

Qualiteg Boot Camp

2024年5月17日 — 2 min read

今回は CUDA と Pytorch をインストールします

4.2 CUDA(+cuDNN) と Pytorch の同時インストール

Pytorch をインストールすると、CUDA と cuDNN を一緒にインストールしてくれるので、それを活用しましょう

STEP1 PyTorchのインストールコマンドを生成する

さて、ようやくお膳立てができたので、いよいよ機械学習ライブラリ PyTorch を導入しましょう

■ PyTorchのインストール

以下にあるPyTorchのインストールガイドを開き、

https://pytorch.org/get-started/locally/

以下のように選択式で　Pytorch　のインストールコマンドを生成することができます

Category	Selected
Pytorch Build	Stable (1.13.1)
Your OS	Linux
Package	Conda
Language	Python
Compute Platform	CUDA 11.7

この設定で以下のようなインストールコマンドが生成されました

conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia

STEP2 Pytorch をインストールする

（１）端末を開いて、

conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia

を実行します

（２） yを入力すると必要パッケージのダウンロードとインストールが開始される

（３） 10分程度待つと、インストールが終了する

これにて、NVIDIA GPU対応のPyTorchのインストールが完了しました

PyTorchの場合は、上記 condaコマンドで CUDA Toolkit 10.0 もあわせてインストールしてくれるし、cudnnはPyTorchに組み込まれた状態のものを、さきほどのcondaコマンドでインストールしているため、別途インストールする必要がなくて便利です

Qualiteg 技術コンサルティング

自作の先に、研究・業務用のGPU環境を考えるなら。

GPUマシンを自分で組む知見は、そのまま研究・PoC・本番のインフラ選定に効きます。

私たちは自社で独自の GPU クラスターを構築・運用し、LLM プロダクトを開発しています。また研究用GPUワークステーションの調達から、インテル Core アーキテクチャ、インテル Xeon アーキテクチャなど、コンシューマーユースからプロユースまで幅広くご支援可能です。ワークステーションの調達・構築支援だけでなく、その先の学習環境の整備、最適な GPU 選定・推論最適化・分散構成まで、運用経験に基づいてアドバイスします。

LLMインフラ・基盤技術の支援を見る →

次回は、実際にGPUを活用したPytorch コードを書いてみます！

navigation

【AI×CAD 第1回】設計の3Dデータ、設計部門の外で誰も見られない問題を無料＋ブラウザだけで解決する

STEPファイルをブラウザで開ける無料の3Dビューワー「CADAS」を公開しました。インストール・登録不要。表示・計測・断面はブラウザ内で処理され、ファイルは外部へ送信されません。CADライセンスのない部門と3Dデータを共有する方法を、実際の画面と実測値で紹介します。

誤検出を0にしても採用しない　NER改善100回超の勝ち筋

GitHub技術語の誤検出を0にしつつ既存性能も上げるまで、100回超のNER改善で得た難しい負例、局所損失、蒸留、残差修復、種類別スコア補正の実務上の要点を紹介します。

TensorRT 10 × Blackwell 移行ガイド【後編】5D grid_sample をカスタムプラグインで通す

こんにちは！「TensorRT 10 × Blackwell 移行ガイド」シリーズもいよいよ最終回です。前編では TensorRT 化の基本と「5D（volumetric）の grid_sample はビルドが拒否される」という壁を、中編では「ビルドが通っても正しいとは限らない」沈黙劣化の数々を扱いました。回テーマ前編（Part 1）RTX 50 で推論資産が動かない — 基本と最初の壁中編（Part 2）ビルドが通っても正しいとは限らない — 沈黙劣化 5 連発後編（Part 3）5D grid_sample をカスタムプラグインで通す（本記事）後編は、前編で保留にした最大の宿題に挑みます。TensorRT がネイティブに対応していない 5D grid_sample を、

Luckfox Pico Mを外出先から使う。3,750円・64MBのLinuxボードにWireCanalで公開URLをつけるまで

秋葉原で買った3,750円のLinuxボード Luckfox Pico M（RV1103・64MB・USB-Cのみ）を、Web公開用の受信ポートを追加せずにインターネット側から使えるようにするまで。SDカード書き込み、RNDIS経由のネットワーク、WireCanal無料プランでの公開、busybox initでの常駐とブラウザからのLED操作、再起動復帰（33秒）まで実測手順で解説します。