[自作日記14] SW編:Ubuntu のインストールUSBの作成

[自作日記14] SW編:Ubuntu のインストールUSBの作成

こんにちは!

今回からは、GPUマシンをAIマシンにすべく、ソフトウェア編の開始です!

目標は Ubuntu OS で GPU使用できる状態にし、最終的に LLMをつかった推論をできるところまでもっていきます。

1. Ubuntu のインストールUSBの作成

GPUマシンのメインOSは Ubuntu を導入したいため、これからUbuntuのインストールを行います。

Ubuntuのインストールにはいくつかの方法がありますが、事務用パソコンのWindowsを使用してUbuntuイメージが入ったUSBメモリを作成し、それをもって Ubuntu をまっさらなPCにインストールしていくアプローチをとろうと思います。

1.1 USBメモリ(32GB以下)の準備

まず、Ubuntuのイメージを焼くUSBメモリを準備します。

USBメモリは下に示す理由の為、 32GB 以下のものを準備しましょう。

  • USB メモリが 32GB を超えると、FAT32 フォーマットができなくなる
  • ブートにつかう USB メモリ は FAT32 でフォーマットされている必要がある

USBメモリの容量が 32GB を超えると Windows では exFAT という扱いになってしまいますので、大きすぎるUSBメモリはNGなのです。

1.2 USBメモリへのイメージ書き込みソフトをダウンロードする

USB メモリへの Ubuntu イメージ(ISO形式)の書き込むために、以下の Unetbootin というソフトウェアをダウンロードします

https://unetbootin.github.io/

これで unetbootin-windows-702.exe というファイルがダウンロードフォルダに保存されました

1.3 Ubuntuのダウンロード

以下から Ubuntu をダウンロードします

https://ubuntu.com/#download

(または https://jp.ubuntu.com/download )

現在の最新のLTSバージョンは 22.04 LTS をダウンロードします。

これで、ubuntu-22.04.1-desktop-amd64.iso というファイルがダウンロードフォルダに保存された状態になります。

1.4 Ubuntuインストール用USBの作成

USB メモリをフォーマットする(必要なら)

  • USBメモリ(FAT32フォーマット済の32GB以下のもの)を セットアップサポート用Windows PC に刺す

    • USBメモリとして認識しなかれば、PCいろいろなUSB端子に刺してみる
  • 認識されたら、エクスプローラーをつかって USB メモリをフォーマットしておく。(クイックフォーマットでOK)

UNetbootin をつかって、Ubuntuイメージを USBメモリ に書き込む

1.さきほどダウンロードした UNetbootin(unetbootin-windows-702.exe)を 起動します

2.ディスクイメージにチェックをいれ、ISOを選択し、さきほどダウンロードしたUbuntuのイメージ ubuntu-22.04.1-desktop-amd64.iso を参照します

タイプは USBドライブ を選択し、さきほどフォーマットした USB メモリ のドライブを選択して OK をクリックします

これで 10分程度で書き込みがおわります

次回は、実際のUbuntuインストールに入っていきます!


navigation

Read more

【解説】Tekken トークナイザーとは何か? 〜 Mistral が採用する新世代トークナイザーの特徴

【解説】Tekken トークナイザーとは何か? 〜 Mistral が採用する新世代トークナイザーの特徴

こんにちは! 本日は、Tekkenについて解説いたします! 皆さま Tekken と聞いて何を思い浮かべますか? 格ゲーの鉄拳でしょうか? 私は、昔プレイした Age of Empires に登場する鉄剣戦士を思い浮かべました🤗 ちょっと古いかもしれませんが、名作です! さてつかみはこのくらいにして、、 LLMはご存じのとおり驚異的なスピードで進化しています。そんな中でひそかに注目されているのが、トークナイザーの改善です。 たとえば、Meta の Llama 系モデルのトークナイザーは Sentence Piece から BPE系へ進化するなど、LLM業界では従来よりも高効率なトークナイズ(テキスト分割)の方法を導入し始めています。 そして Mistral AI もまた、新たに「Tekken トークナイザー」という仕組みを採用し、大規模言語モデルの性能を底上げしています。 本記事では、Tekken トークナイザーの登場背景や技術的特徴、他のトークナイザーとの違い、さらには Mistral との関係などをわかりやすく解説していきます。 1. Tekken トーク

By Qualiteg プロダクト開発部
[AI新規事業創出]Qualitegオリジナル、アイディア評価、事業アイディア選定方法

[AI新規事業創出]Qualitegオリジナル、アイディア評価、事業アイディア選定方法

Qualiteg blogを訪問してくださった皆様、こんにちは。Micheleです。AIを活用した新規事業やマーケティングを手がけている私には、クライアントからよく寄せられる質問があります。AIを用いた事業展開を検討されている方々が共通して直面するであろう課題に対して、このブログを通じて私なりの解答をご提供したいと思います。 はじめに AI技術の急速な発展は、スタートアップから大企業まで、あらゆるビジネスに新たな可能性をもたらしています。クライアントとの会話の中でも、AIを活用した革新的な事業アイディアに関する相談が増えています。 しかし、多くの企業が「素晴らしいアイディアを思いついた!」と興奮しながらも、そのアイディアを具体化し、成功に導くための方法論に悩んでいるのも事実です。特にAIを用いた事業展開においては、従来のビジネスモデルとは異なる視点が必要となるため、その難しさはさらに増します。 本記事では、Qualitegオリジナルのアイディア評価、事業アイディア選定方法について解説します。特に、AIを用いた事業展開を検討されている方々が共通して直面するであろう課題に対して、

By Join us, Michele on Qualiteg's adventure to innovation
日本語対応!Mistral Small v3 解説

日本語対応!Mistral Small v3 解説

こんにちは! Mistral AIは2025年1月30日、新しい言語モデル「Mistral Small v3」を発表しました。このモデルは、24Bという比較的小規模なパラメータ数ながら、70B以上の大規模モデルに匹敵する性能を実現しています。また日本語対応も謳われており期待の高い小型モデルです! https://huggingface.co/mistralai/Mistral-Small-24B-Instruct-2501 動画 こちら本ブログの解説動画もご覧いただけます😊 きわだってるのは、レイテンシー最適化 Mistral Small 3のめだった特徴は、その処理性能とレイテンシーの絶妙なバランスではないでしょうか。 公開されている以下の性能評価のグラフによると、トークンあたり約11ミリ秒という業界最速レベルのレイテンシーを達成しています。これは、Qwen-2.5 32Bの約15ミリ秒やGemma-2 27Bの約14ミリ秒と比較して、明確な優位性を示しています。さらに注目すべきは、GPT-4o Miniと比較しても、より低いレイテンシーで同等以上の性能を実現し

By Qualiteg プロダクト開発部
[vLLM] To use CUDA with multiprocessing, you must use the 'spawn' start method の対処法

[vLLM] To use CUDA with multiprocessing, you must use the 'spawn' start method の対処法

WSLで vLLM を使用するとき、 tensor parallel を使って複数枚のGPUで1つのLLMをサーブしようとしたとき以下のようなエラーが発生しがちです RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method 遭遇するシーンとしてはvLLMの起動オプションに以下のようにテンソル並列化オプションを指定したときです。 --tensor-parallel-size 2 つまり、マルチプロセッシングでCUDA使うときは、 "fork"じゃなくて"spawn" 使ってね、というエラーです。 これを vLLM に教えるために、以下の2行目のように環境変数を設定してあげるとvLLMが "spawn" を使ってくれるようになります。 export

By Qualiteg プロダクト開発部