[自作日記9] AI研究用GPUマシンパーツと組み立て開始!

[自作日記9] AI研究用GPUマシンパーツと組み立て開始!


昨日、秋葉原で合計41.5万円分のGPUマシンのパーツを購入してきましたのでご報告します!

GPUマシンパーツ

AI用研究用GPUマシンパーツ一式

早速、組み立てていきます!

組み立てに使う工具

周辺パーツは別に、以下のような工具があると便利です

項目 使いどころ、Tips
プラスドライバー普通サイズ ケースの組み立てで使用。
マイナスドライバー ケースの組み立てで使用。精密ドライバーよりは大きいが、通常サイズより少し小さめのもの。
静電気防止手袋 組み立てで必須。手にフィットするもの。
ねじつかみようピンセット ネジをネジ穴にいれるときに、ネジをつまんでおくのに便利。指が入りにくい場所などに。
ラジオペンチ それほど出番はなさそうだが、ネジ穴つぶしたとき対策などあると精神的におちつく。
ヘッドライト 頭にまくやつ。両手をつかって奥深くをみながら作業するときなど、視野を明るくしてくれて便利。
ライト 他のパーツの陰にかくれてしまうような奥深い部分の作業のとき、 ヘッドライトとあわせてあると便利。

では、さっそく組み立てを開始します!

STEP 1. PCケースに電源を装着

使用したケースは 【 Fractal Design Focus G white 】です

  • グラボサイズ:最長380mmのグラフィックス
  • ファン:大きなエアフローを最大限確保するために合計6箇所のファン配置(デフォルトで2基の120mm ファンをフロントに搭載。リアx1、トップx2、ボトムx1)
  • 5インチベイ:パネル前面に 2基の5インチベイ(防振対応ドライブベイ)
  • 2.5インチマウント:内部に 2.5インチマウント

電源ユニットをケースに設置する

電源ユニットは 【Seasonic製 80PLUS Titanium認証 PRIME TX ATX電源 PRIME-TX 850W】 です

  • まず電源ユニットをケースに設置します

電源ユニットの端子側はこのようになっており、M/B と書いてあるのはマザーボード接続用、CPU/PCI-E は CPUとPCI Express拡張ボード用の電源となっています。Peripheral と書いてあるのは SATA など周辺装置用の電源です。

まず、この電源ユニットをPCケースにねじ止めしていきましょう

PCケース前面にある5インチベイにSATAリムーバルケースを設置

私のマシンはちょっと欲張りして、デュアルブートができるようにしようとしているので、デュアルブート用のSSDを収納する、SATAリムーバルケースを設置します。

単にデュアルブートしたいだけなら、リムバールケースは不要なのですが、私は Ubuntu,Windows,FreeBSDなど複数のOSを切り替えようとおもっているため、このようにSSDを簡単に着脱できるようにしています。

リムーバルケースは 【OWLTECH 5.25インチベイ用ダイレクトリムーバルケース】を使用します。これを5インチベイに入れます。

5インチベイとに、リムーバルケースを入れる前に、PCケース側の5インチベイのフタをフロントパネルからはがす必要があります。このとき、ツメを背面からマイナスドライバー等つかって解除してはずしてやります。

その後、5インチベイ用のSATAリムーバルケースをフロント側から差し込みます。

リムーバルケースが5インチベイにおさまったら今度は信号ケーブルと電源コネクタを接続します。

今回使用するのは 2.5インチSSDなので、2.5インチの信号ケーブルを以下のように差し込みます。またSATA電源用コネクタを以下のように差し込みます。

つづいて、マザーボードまわりのセットアップをしていきましょう。

次の日記につづきます


navigation

Read more

AI時代のデータ漏洩防止の要諦とテクノロジー:第1回 AI DLPとPROXY

AI時代のデータ漏洩防止の要諦とテクノロジー:第1回 AI DLPとPROXY

こんにちは!本日はAI時代のデータ漏洩防止について、とくにその通信技術面に焦点をあてつつ、AIセキュリティにどのように取り組んでいくべきか、解説いたします。 1. はじめに 生成AIの急速な普及により、企業のデータガバナンスは新たな局面を迎えています。ChatGPTやClaudeといった大規模言語モデル(LLM)は、業務効率を飛躍的に向上させる一方で、意図しない機密情報の漏洩という深刻なリスクをもたらしています。 従業員が何気なく入力した顧客情報や営業秘密が、AIサービスの学習データとして使用される可能性があることを、多くの組織はまだ十分に認識していません。従来のDLP(Data Loss Prevention)ソリューションは、メールやファイル転送を監視することには長けていましたが、リアルタイムで行われるWebベースのAIチャットやAIエージェントとの対話で発生しうる新しい脅威には対応できていないのが現状です。 本記事では、AI時代のデータ漏洩防止において中核となる技術、特にHTTPS通信のインターセプトとその限界について、技術的な観点から詳しく解説します。プロキシサーバー

By Qualiteg プロダクト開発部, Qualiteg コンサルティング
LLM推論基盤プロビジョニング講座 第5回 GPUノード構成から負荷試験までの実践プロセス

LLM推論基盤プロビジョニング講座 第5回 GPUノード構成から負荷試験までの実践プロセス

こんにちは!これまでのLLM推論基盤プロビジョニング講座では、推論速度の定義、リクエスト数見積もり、メモリ消費量計算、推論エンジン選定について詳しく解説してきました。 今回は、残りのステップである「GPUノード構成見積もり」「負荷試験」「トレードオフ検討」について一気に解説し、最後に実際のサーバー構成例をご紹介します。 STEP5:GPUノード構成見積もり GPUメモリから考える同時リクエスト処理能力 LLMサービスを構築する際、どのGPUを何台選ぶかは非常に重要な決断です。今回はLlama 8Bモデルを例に、GPUメモリ容量と同時リクエスト処理能力の関係を見ていきましょう。 GPUメモリの使われ方を理解する ここは復習となりますが、 LLM推論においてGPUメモリは主に2つの用途で消費されます 1. モデル重みデータ: LLMモデル自体を格納するためのメモリ 2. KVキャッシュ: ユーザーとの対話コンテキストを保持するための一時メモリ Llama 8Bを16ビット精度で実行する場合、モデル重みデータは約16GBのメモリを占めます。これは固定的なメモリ消

By Qualiteg コンサルティング
発話音声からリアルなリップシンクを生成する技術 第2回:AIを使ったドリフト補正

発話音声からリアルなリップシンクを生成する技術 第2回:AIを使ったドリフト補正

こんにちは! 前回の記事では、当社のMotionVoxで使用している「リップシンク」技術について、wav2vecを用いた音声特徴量抽出の仕組みを解説しました。音声から正確な口の動きを予測するための基礎技術について理解いただけたかと思います。 今回は、その続編として、リップシンク制作における重要な技術的課題である「累積ドリフト」に焦点を当てます。wav2vecで高精度な音素認識ができても、実際の動画制作では複数の音声セグメントを時系列に配置する際、わずかなタイミング誤差が蓄積して最終的に大きなずれとなる現象が発生します。 本記事では、この累積ドリフトのメカニズムと、機械学習を活用した最新の補正技術について、実際の測定データを交えながら詳しく解説していきます。前回のwav2vecによる特徴抽出と今回のドリフト補正技術を組み合わせることで、MotionVoxがどのように高品質なリップシンクを実現しているのか、その全体像が見えてくるはずです。 累積ドリフトとは何か 基本概念 累積ドリフトとは、個々の音声セグメントが持つ微小なタイミング誤差が、時間の経過とともに蓄積していく現象で

By Qualiteg 研究部
AIエージェント時代の新たな番人「ガーディアンエージェント」とは?

AIエージェント時代の新たな番人「ガーディアンエージェント」とは?

こんにちは!今日は先日ガートナーが発表したガーディアンエージェントについて解説します ガートナーの公式定義 ハイプカーブで有名なガートナーは2025年6月に、ガーディアンエージェントに関する見解を発表しました。ガーディアン・エージェントとは、AIとの安全で信頼できるやりとりを支援するために設計されたAIベースのテクノロジです。 ざっくりいうと、 「AIエージェントが来るよ」と予言したガートナー社は、次は、「ガーディアンエージェントが来るよ」と予言しました。なぜガーディアンエージェントが来るのでしょうか?本稿では、そのあたりを考察していきたいと思います。 なぜ今、AIの「監視役」が必要なのか 2025年、私たちは本格的なAIエージェント時代の入り口に立っています。AIが単なるツールから、自律的に判断し行動する「エージェント」へと進化する中で、新たな課題が浮上しています。 従来のAIとエージェント型AIの違い さて、ガーディアンエージェントが必要になる理由として、生成AI(以後AIと呼びます)の急速な進化があげられます。従来のAIとエージェント型AIの違いを思い出

By Qualiteg コンサルティング