[AI新規事業創出]LLMとは?

MicheleがAI活用のビジネスやマーケティングについて質問に答えるブログを紹介。大規模言語モデル(LLM)について説明し、ChatGPTを例に挙げてLLMのビジネス活用事例や技術的な側面を解説。さらに、専用パソコンや日本語対応モデルも紹介しています。

[AI新規事業創出]LLMとは?

Qualiteg blogを訪問してくださった皆様、こんにちは。Micheleです。AIを活用した新規事業やマーケティングを手がけている私には、クライアントからよく寄せられる質問があります。AIを用いた事業展開を検討されている方々が共通して直面するであろう課題に対して、このブログを通じて私なりの解答をご提供したいと思います。


LLMとは大規模言語モデル

LLM(Large Language Model、大規模言語モデル)とは、人間の言葉を理解し、それに基づいてテキストを生成する人工知能技術の一つです。この技術は、インターネット上の大量のテキストデータを学習して、様々な言語タスクをこなすことができるモデルを構築するものです。

ChatGPTもLLMを活用した生成AI

2022年に米国で開発されたOpenAI社のChatGPTはLLM(大規模言語モデルと呼ばれる言語生成AI)技術を活用し人間のアシスタントとして様々なタスクを代行したり、弁護士試験や医師国家試験に合格したりするなど既に平均的な人間の能力を超えていると言われており現在も秒進分歩で進化をつづけています。

ChatGPTはFortune 500企業の過半数でビジネス活用されているなど欧米中心に大きなビジネスインパクトを与えており、これに刺激され世界中で同様のLLMを作る動きが活発化されております。

LLMはコンピューターに例えるならCPU部分

LLMとは、人間のように質問に気の利いた回答をしたり、指示に従って文章を生みだしたりすることのできるAI技術で、昨今話題のChatGPTのコア技術としても使用されています。LLMはパソコンに例えるのであれば頭脳部分をつかさどるCPUに相当します。

CPUだけでパソコンは動く?

CPUのみではパソコンが使えないのと同様、LLMだけではユーザーが使える状態にはなりません。パソコンでは、キーボード、マウスといった入力装置、ディスプレイ、スピーカーなどの出力装置、メモリやHDDといった記憶装置、それらとCPUをつなぐマザーボードなど様々なパーツが協調して動作します。

LLMを動作させるにも、入出力や協調のための高度な仕組みが必要です。さらに、多くのユーザーが使用するためのセキュリティや堅牢性も兼ね備えることが求められます。このようにLLMを活用するには様々なソフトウェアとそれらを統合するプラットフォーム技術が必要であり、当社は商用サービス向け、LLMプラットフォーム ChatStream®(チャットストリーム)を開発・提供しています。

5.日本語対応の大規模言語モデル(例)

- matsuo-lab/weblab-10b-instruction-sft
- cyberagent/open-calm-7b
- cyberagent/open-calm-3b
- rinna/japanese-gpt-neox-3.6b-instruction-sft-v2
- rinna/bilingual-gpt-neox-4b-instruction-sft
- rinna/japanese-gpt-neox-3.6b-instruction-sft
- rinna/japanese-gpt-neox-3.6b-instruction-ppo
- stabilityai/japanese-stablelm-instruct-alpha-7b
- line-corporation/japanese-large-lm-3.6b-instruction-sft
- stockmark/gpt-neox-japanese-1.4b

6.英語対応の大規模言語モデル(例)

- meta-llama/Llama-2-7b-chat
- openlm-research/open_llama_3b_v2
- openlm-research/open_llama_7b_v2
- openlm-research/open_llama_3b
- togethercomputer/RedPajama-INCITE-Chat-3B-v1
- togethercomputer/RedPajama-INCITE-7B-Chat
- mosaicml/mpt-7b-chat
- databricks/dolly-v2-7b
- databricks/dolly-v2-3b

7.生成AI専用パソコンのご案内

当社では、プロ用GPUを搭載した、プロフェッショナル向けLLM(大規模言語モデル)専用パソコンのハイコストパフォーマンスモデル Qualiteg IntegrityPro-11600を販売中です。

必要なソフトウェアはあらかじめプリインストールされているため、電源をいれたらすぐに対話チャットWebアプリでLLMを試すことができます。もうAI実行に必要なPCパーツ構成や煩わしいソフトウェアインストールに悩まず、必要な作業にご集中いただけます。


コラムを最後までお読みいただき、誠にありがとうございます。私たちQualitegは、AI技術や新規事業の企画方法に関する研修およびコンサルティングを提供しております。もしご興味をお持ちいただけた場合、また具体的なご要望がございましたら、どうぞお気軽にこちらのお問い合わせフォームまでご連絡くださいませ。

また、新規事業創出のステップを体得したいという方にご好評のワークショップも実施しております。それぞれの担当者の方が役員目線で事業を考えるという点にフォーカスしたトレーニング内容となっており、企画担当者の方だけではなく、カウンターパートのエンジニア、デザイナー、マーケターの方にもご受講いただけるコンテンツとなっております。

皆様からのお問い合わせを心よりお待ちしております。次回のコラムも、ぜひご期待くださいね。


navigation

Read more

【解説】Tekken トークナイザーとは何か? 〜 Mistral が採用する新世代トークナイザーの特徴

【解説】Tekken トークナイザーとは何か? 〜 Mistral が採用する新世代トークナイザーの特徴

こんにちは! 本日は、Tekkenについて解説いたします! 皆さま Tekken と聞いて何を思い浮かべますか? 格ゲーの鉄拳でしょうか? 私は、昔プレイした Age of Empires に登場する鉄剣戦士を思い浮かべました🤗 ちょっと古いかもしれませんが、名作です! さてつかみはこのくらいにして、、 LLMはご存じのとおり驚異的なスピードで進化しています。そんな中でひそかに注目されているのが、トークナイザーの改善です。 たとえば、Meta の Llama 系モデルのトークナイザーは Sentence Piece から BPE系へ進化するなど、LLM業界では従来よりも高効率なトークナイズ(テキスト分割)の方法を導入し始めています。 そして Mistral AI もまた、新たに「Tekken トークナイザー」という仕組みを採用し、大規模言語モデルの性能を底上げしています。 本記事では、Tekken トークナイザーの登場背景や技術的特徴、他のトークナイザーとの違い、さらには Mistral との関係などをわかりやすく解説していきます。 1. Tekken トーク

By Qualiteg プロダクト開発部
[AI新規事業創出]Qualitegオリジナル、アイディア評価、事業アイディア選定方法

[AI新規事業創出]Qualitegオリジナル、アイディア評価、事業アイディア選定方法

Qualiteg blogを訪問してくださった皆様、こんにちは。Micheleです。AIを活用した新規事業やマーケティングを手がけている私には、クライアントからよく寄せられる質問があります。AIを用いた事業展開を検討されている方々が共通して直面するであろう課題に対して、このブログを通じて私なりの解答をご提供したいと思います。 はじめに AI技術の急速な発展は、スタートアップから大企業まで、あらゆるビジネスに新たな可能性をもたらしています。クライアントとの会話の中でも、AIを活用した革新的な事業アイディアに関する相談が増えています。 しかし、多くの企業が「素晴らしいアイディアを思いついた!」と興奮しながらも、そのアイディアを具体化し、成功に導くための方法論に悩んでいるのも事実です。特にAIを用いた事業展開においては、従来のビジネスモデルとは異なる視点が必要となるため、その難しさはさらに増します。 本記事では、Qualitegオリジナルのアイディア評価、事業アイディア選定方法について解説します。特に、AIを用いた事業展開を検討されている方々が共通して直面するであろう課題に対して、

By Join us, Michele on Qualiteg's adventure to innovation
日本語対応!Mistral Small v3 解説

日本語対応!Mistral Small v3 解説

こんにちは! Mistral AIは2025年1月30日、新しい言語モデル「Mistral Small v3」を発表しました。このモデルは、24Bという比較的小規模なパラメータ数ながら、70B以上の大規模モデルに匹敵する性能を実現しています。また日本語対応も謳われており期待の高い小型モデルです! https://huggingface.co/mistralai/Mistral-Small-24B-Instruct-2501 動画 こちら本ブログの解説動画もご覧いただけます😊 きわだってるのは、レイテンシー最適化 Mistral Small 3のめだった特徴は、その処理性能とレイテンシーの絶妙なバランスではないでしょうか。 公開されている以下の性能評価のグラフによると、トークンあたり約11ミリ秒という業界最速レベルのレイテンシーを達成しています。これは、Qwen-2.5 32Bの約15ミリ秒やGemma-2 27Bの約14ミリ秒と比較して、明確な優位性を示しています。さらに注目すべきは、GPT-4o Miniと比較しても、より低いレイテンシーで同等以上の性能を実現し

By Qualiteg プロダクト開発部
[vLLM] To use CUDA with multiprocessing, you must use the 'spawn' start method の対処法

[vLLM] To use CUDA with multiprocessing, you must use the 'spawn' start method の対処法

WSLで vLLM を使用するとき、 tensor parallel を使って複数枚のGPUで1つのLLMをサーブしようとしたとき以下のようなエラーが発生しがちです RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method 遭遇するシーンとしてはvLLMの起動オプションに以下のようにテンソル並列化オプションを指定したときです。 --tensor-parallel-size 2 つまり、マルチプロセッシングでCUDA使うときは、 "fork"じゃなくて"spawn" 使ってね、というエラーです。 これを vLLM に教えるために、以下の2行目のように環境変数を設定してあげるとvLLMが "spawn" を使ってくれるようになります。 export

By Qualiteg プロダクト開発部