生成AI研究用PC発売します

生成AI研究用PC発売します

生成AIパソコンのオンラインショップを開設いたしました。

https://shop.qualiteg.com/

AIやLLM(大規模言語モデル)の研究を開始する際、研究者や開発者が最初に直面する課題の一つが、適切なハードウェアの選定です。特に、この分野の研究用途では、単に高性能なコンピュータを選ぶだけでは不十分で、研究の目的や要求に応じた特化した構成が求められます。しかし、研究目的に合わせた適切なパソコンの構成を決定することは、多くの研究者や開発者にとって大きな挑戦です。

自作の選択肢もありますが、GPUとその周辺機器は高価で、選定をミスするととても高くついてしまいます。(そもそもそのケースにGPUがおさまるか、や、冷却性能、2枚以上挿す場合は、そもそもCPUやバス幅などまで考慮に入れる必要がありAIマシン初心者にとってはハードルが高いものとなります)

今回は、お求めやすく、130億パラメータクラスの LLM が快適に扱えるスペックのPCからラインナップしております。GPUは A4000 を1枚または2枚を搭載してモデルをご用意しております。

当社とPC販売店やHPC(高性能コンピューティング)販売店との最大の違いは、私たちが提供する充実したHW/SW統合技術サポートです。私たちはGPUハードウェアだけでなく、ソフトウェアスタックに深い知識と経験を持っており、特にLLMに関しては、当社の主力プロダクトである ChatStream(TM) の Express Edition(無償バンドル版)を同梱しています。これにより、お客様は箱を開けてすぐに、各種オープンソースのLLMを用いたストリーミングチャットの検証を始めることができます。面倒なインストール作業や複雑な設定の手間を省くことが可能です。

Meta社の Llama などより大規模なモデルにも対応できる Xeon アーキテクチャのGPU4枚挿し生成AIパソコン等もカスタム対応可能ですので、ご相談くださいませ。

Read more

TensorRT 10 × Blackwell 移行ガイド【中編】ビルドが通っても正しいとは限らない — 沈黙劣化 5 連発

TensorRT 10 × Blackwell 移行ガイド【中編】ビルドが通っても正しいとは限らない — 沈黙劣化 5 連発

こんにちは! 前回の記事「TensorRT 10 × Blackwell 移行ガイド【前編】RTX 50 で推論資産が動かない — 基本と最初の壁」では、Blackwell 世代への移行で既存の推論資産が動かなくなる理由と、TensorRT 10 化を最小構成で通す手順を扱いました。前編で出てきた問題には、実はひとつ共通点があります。 すべて、エラーで止まってくれたということです。 本当に怖いのはその先です。TensorRT への移行パイプラインには、 * ビルドが通る * 実行も通る * 速度もちゃんと出る * 出力の形も、値も、一見それらしい * なのに、中身が間違っている という失敗の仕方が存在します。 本記事では、TensorRT 本体の挙動だけでなく、export 時のミス・精度設定・エンジンの配布ミスまで含めて、エラーで停止せず誤った出力へ至る事象を便宜上 「沈黙劣化」 と呼びます。 テストが通り、ベンチマークが良い数字を出し、「◯倍速くなりました」と報告した後になって発覚するので、非常に厄介です。 本記事では、実際に踏んだ

By Qualiteg プロダクト開発部