[自作日記14] SW編:Ubuntu のインストールUSBの作成

[自作日記14] SW編:Ubuntu のインストールUSBの作成

こんにちは!

今回からは、GPUマシンをAIマシンにすべく、ソフトウェア編の開始です!

目標は Ubuntu OS で GPU使用できる状態にし、最終的に LLMをつかった推論をできるところまでもっていきます。

1. Ubuntu のインストールUSBの作成

GPUマシンのメインOSは Ubuntu を導入したいため、これからUbuntuのインストールを行います。

Ubuntuのインストールにはいくつかの方法がありますが、事務用パソコンのWindowsを使用してUbuntuイメージが入ったUSBメモリを作成し、それをもって Ubuntu をまっさらなPCにインストールしていくアプローチをとろうと思います。

1.1 USBメモリ(32GB以下)の準備

まず、Ubuntuのイメージを焼くUSBメモリを準備します。

USBメモリは下に示す理由の為、 32GB 以下のものを準備しましょう。

  • USB メモリが 32GB を超えると、FAT32 フォーマットができなくなる
  • ブートにつかう USB メモリ は FAT32 でフォーマットされている必要がある

USBメモリの容量が 32GB を超えると Windows では exFAT という扱いになってしまいますので、大きすぎるUSBメモリはNGなのです。

1.2 USBメモリへのイメージ書き込みソフトをダウンロードする

USB メモリへの Ubuntu イメージ(ISO形式)の書き込むために、以下の Unetbootin というソフトウェアをダウンロードします

https://unetbootin.github.io/

これで unetbootin-windows-702.exe というファイルがダウンロードフォルダに保存されました

1.3 Ubuntuのダウンロード

以下から Ubuntu をダウンロードします

https://ubuntu.com/#download

(または https://jp.ubuntu.com/download )

現在の最新のLTSバージョンは 22.04 LTS をダウンロードします。

これで、ubuntu-22.04.1-desktop-amd64.iso というファイルがダウンロードフォルダに保存された状態になります。

1.4 Ubuntuインストール用USBの作成

USB メモリをフォーマットする(必要なら)

  • USBメモリ(FAT32フォーマット済の32GB以下のもの)を セットアップサポート用Windows PC に刺す

    • USBメモリとして認識しなかれば、PCいろいろなUSB端子に刺してみる
  • 認識されたら、エクスプローラーをつかって USB メモリをフォーマットしておく。(クイックフォーマットでOK)

UNetbootin をつかって、Ubuntuイメージを USBメモリ に書き込む

1.さきほどダウンロードした UNetbootin(unetbootin-windows-702.exe)を 起動します

2.ディスクイメージにチェックをいれ、ISOを選択し、さきほどダウンロードしたUbuntuのイメージ ubuntu-22.04.1-desktop-amd64.iso を参照します

タイプは USBドライブ を選択し、さきほどフォーマットした USB メモリ のドライブを選択して OK をクリックします

これで 10分程度で書き込みがおわります

次回は、実際のUbuntuインストールに入っていきます!


navigation

Read more

[AI新規事業創出]Qualitegが考える、アイディア創造フレームワークを利活用する理由

[AI新規事業創出]Qualitegが考える、アイディア創造フレームワークを利活用する理由

Qualiteg blogを訪問してくださった皆様、こんにちは。Micheleです。AIを活用した新規事業やマーケティングを手がけている私には、クライアントからよく寄せられる質問があります。AIを用いた事業展開を検討されている方々が共通して直面するであろう課題に対して、このブログを通じて私なりの解答をご提供したいと思います。 アイディア創造を行う際に皆さんどのようなステップで検討されていますか?多くの企業様のコンサルティングをさせていただいている中で、最も多いのが、「突然のブレスト」ですが、どのような事業を行いたいか=誰に何を売っていきたいのかを最初に考えずに思い付きのままに意見を出し合い、結果的に無駄な時間を過ごしてしまい良いアイディアが出なかったとおっしゃる方も多いです。 本日はアイディア創造は思い付きではなく、きちんとフレームワークを利活用すべしと考えるQualitegのメソッドをお伝えしたいと思います。 まず、初めに行うことは 「誰に商品やサービスを提供したいか」を考えることです。 ターゲットユーザーはどのようなことを考えているかを理解し、仮説課題やニーズの確からしさ

By Join us, Michele on Qualiteg's adventure to innovation
推論速度を向上させる Speculative Decoding(投機的デコーディング)とは

推論速度を向上させる Speculative Decoding(投機的デコーディング)とは

こんにちは Qualiteg 研究部です。 投機的デコーディングとは何か? 投機的デコーディングは、大規模言語モデル(LLM)の推論速度を向上させる技術です。 たいていのモデルを1.4~2.0倍程度、高速化できることが報告されています。 このアプローチでは、小さなモデル(ドラフトモデル)を使用して初期の予測を行い、その結果を大きなモデル(ターゲットモデル)が検証することで、全体の推論プロセスを高速化します。 ざっくりいうと、 大きなモデルは計算負荷も高く計算速度も遅いので、まず、小さなモデルで高速に計算したあとで、その計算結果をうまくつかって大きなモデルでの計算負荷をさげ、スピードを向上させようというアイデアです。 基本的に大きなモデルと、小さなモデルはサイズ以外は基本的にまったく同じネットワーク構造をしていることが前提となります。 たとえば 70Bの Llama3 と 8B の Llama3 を組み合わせてつかうイメージです。 当然70B の Llama3 の推論計算のほうが 8B よりも重たくなりますので、小さい8BのLlama3 で先回りして推論計算することで

By Qualiteg 研究部
[自作日記20] SW編: コードをGPUで動かす

[自作日記20] SW編: コードをGPUで動かす

早速、GPUで Pythonコードを動かしてみましょう 4.3 Jupyter Notebook で GPUを活用したPytorchコードを記述する STEP1 端末(ターミナル)を開いて、PyTorchプロジェクト用のディレクトリを作る 以下のコマンドを入力します mkdir pytorch_pj cd pytorch_pj STEP2 Jupyter Notebook の起動 ディレクトリに移動したら jupyter notebook でJupyter Notebook(ジュピターノートブック)を起動します Jupyter Notebook はPythonのコード作成と実行、実行結果表示、自由コメント(Markdown)編集の3つの機能をそなえたツールで、気軽に利用できるので、Jupyter Notebook上で試してみましょう Jupyter Notebook が起動しました 右上の 新規 をクリックして Python3 を選択します

By Qualiteg Boot Camp
[AI数理]徹底的に交差エントロピー(7)

[AI数理]徹底的に交差エントロピー(7)

おはようございます!(株) Qualiteg 研究部です。 今回は、交差エントロピーの計算をベクトルや行列で表現する方法について説明します! 8章 交差エントロピーとベクトル演算 そもそも、なぜ、交差エントロピーをベクトルや行列で表現したいのでしょうか? それは、実際にニューラルネットワークをコンピュータープログラムとして実装するときに、訓練データや予測値はベクトル(1次元配列)や行列(2次元配列)といったN階テンソル(N次元配列)の形式で取り扱われるからです。 なぜベクトルや行列かといえば、ニューラルネットワークの実用的な計算をするときにはデータを1件とりだしては、1件計算する のではなく、多くのデータをベクトル(1次元配列)や行列(2次元配列)やそれ以上の多次元配列に詰めたのちに、まとめてドカっと計算するからです。 (まとめてドカっと計算するのが得意な GPU があるからこそ、これだけ Deep Learning が進展した、ともいえます) そこで、今までで導出してきた交差エントロピーの計算をコンピュータで実装するときに備えて、 1次元配列 にしてみます。

By Qualiteg 研究部