[AI新規事業創出]LLMとは?

MicheleがAI活用のビジネスやマーケティングについて質問に答えるブログを紹介。大規模言語モデル(LLM)について説明し、ChatGPTを例に挙げてLLMのビジネス活用事例や技術的な側面を解説。さらに、専用パソコンや日本語対応モデルも紹介しています。

[AI新規事業創出]LLMとは?

Qualiteg blogを訪問してくださった皆様、こんにちは。Micheleです。AIを活用した新規事業やマーケティングを手がけている私には、クライアントからよく寄せられる質問があります。AIを用いた事業展開を検討されている方々が共通して直面するであろう課題に対して、このブログを通じて私なりの解答をご提供したいと思います。


LLMとは大規模言語モデル

LLM(Large Language Model、大規模言語モデル)とは、人間の言葉を理解し、それに基づいてテキストを生成する人工知能技術の一つです。この技術は、インターネット上の大量のテキストデータを学習して、様々な言語タスクをこなすことができるモデルを構築するものです。

ChatGPTもLLMを活用した生成AI

2022年に米国で開発されたOpenAI社のChatGPTはLLM(大規模言語モデルと呼ばれる言語生成AI)技術を活用し人間のアシスタントとして様々なタスクを代行したり、弁護士試験や医師国家試験に合格したりするなど既に平均的な人間の能力を超えていると言われており現在も秒進分歩で進化をつづけています。

ChatGPTはFortune 500企業の過半数でビジネス活用されているなど欧米中心に大きなビジネスインパクトを与えており、これに刺激され世界中で同様のLLMを作る動きが活発化されております。

LLMはコンピューターに例えるならCPU部分

LLMとは、人間のように質問に気の利いた回答をしたり、指示に従って文章を生みだしたりすることのできるAI技術で、昨今話題のChatGPTのコア技術としても使用されています。LLMはパソコンに例えるのであれば頭脳部分をつかさどるCPUに相当します。

CPUだけでパソコンは動く?

CPUのみではパソコンが使えないのと同様、LLMだけではユーザーが使える状態にはなりません。パソコンでは、キーボード、マウスといった入力装置、ディスプレイ、スピーカーなどの出力装置、メモリやHDDといった記憶装置、それらとCPUをつなぐマザーボードなど様々なパーツが協調して動作します。

LLMを動作させるにも、入出力や協調のための高度な仕組みが必要です。さらに、多くのユーザーが使用するためのセキュリティや堅牢性も兼ね備えることが求められます。このようにLLMを活用するには様々なソフトウェアとそれらを統合するプラットフォーム技術が必要であり、当社は商用サービス向け、LLMプラットフォーム ChatStream®(チャットストリーム)を開発・提供しています。

5.日本語対応の大規模言語モデル(例)

- matsuo-lab/weblab-10b-instruction-sft
- cyberagent/open-calm-7b
- cyberagent/open-calm-3b
- rinna/japanese-gpt-neox-3.6b-instruction-sft-v2
- rinna/bilingual-gpt-neox-4b-instruction-sft
- rinna/japanese-gpt-neox-3.6b-instruction-sft
- rinna/japanese-gpt-neox-3.6b-instruction-ppo
- stabilityai/japanese-stablelm-instruct-alpha-7b
- line-corporation/japanese-large-lm-3.6b-instruction-sft
- stockmark/gpt-neox-japanese-1.4b

6.英語対応の大規模言語モデル(例)

- meta-llama/Llama-2-7b-chat
- openlm-research/open_llama_3b_v2
- openlm-research/open_llama_7b_v2
- openlm-research/open_llama_3b
- togethercomputer/RedPajama-INCITE-Chat-3B-v1
- togethercomputer/RedPajama-INCITE-7B-Chat
- mosaicml/mpt-7b-chat
- databricks/dolly-v2-7b
- databricks/dolly-v2-3b

7.生成AI専用パソコンのご案内

当社では、プロ用GPUを搭載した、プロフェッショナル向けLLM(大規模言語モデル)専用パソコンのハイコストパフォーマンスモデル Qualiteg IntegrityPro-11600を販売中です。

必要なソフトウェアはあらかじめプリインストールされているため、電源をいれたらすぐに対話チャットWebアプリでLLMを試すことができます。もうAI実行に必要なPCパーツ構成や煩わしいソフトウェアインストールに悩まず、必要な作業にご集中いただけます。


コラムを最後までお読みいただき、誠にありがとうございます。私たちQualitegは、AI技術や新規事業の企画方法に関する研修およびコンサルティングを提供しております。もしご興味をお持ちいただけた場合、また具体的なご要望がございましたら、どうぞお気軽にこちらのお問い合わせフォームまでご連絡くださいませ。

また、新規事業創出のステップを体得したいという方にご好評のワークショップも実施しております。それぞれの担当者の方が役員目線で事業を考えるという点にフォーカスしたトレーニング内容となっており、企画担当者の方だけではなく、カウンターパートのエンジニア、デザイナー、マーケターの方にもご受講いただけるコンテンツとなっております。

皆様からのお問い合わせを心よりお待ちしております。次回のコラムも、ぜひご期待くださいね。


navigation

Read more

GPUサーバーの最適容量計算: キューイング理論と実践的モデル

GPUサーバーの最適容量計算: キューイング理論と実践的モデル

最大ユーザーサポート数計算ツール 同時に1件のみ処理できるGPU変換サーバーの最大ユーザーサポート数を計算します 処理時間 (t_p) 分/件 1件の変換処理にかかる時間 目標システム利用率 (ρ) 0 〜 1 安定稼働のための目標稼働率(推奨: 0.7〜0.8) ピーク係数 (P_c) 倍 最も混雑する時間帯の平均アクセス倍率 稼働時間 (H) 時間/日 システムが1日に稼働している総時間 アクセス確率 (P_a) 0 〜 1 1人のユーザーが1日にシステムを利用する確率 1ユーザーあたりの変換回数 (F) 回/日 利用する日の平均変換処理回数 計算過程を表示 計算結果 サポート可能な総ユーザー数: 人 計算式: N = (ρ × μ × H) ÷ (P_a

By Qualiteg プロダクト開発部
PyTorch 2.6 のセキュリティ: モデルチェックポイントロードの安全対策

PyTorch 2.6 のセキュリティ: モデルチェックポイントロードの安全対策

こんにちは! 今日は、魅力的なPyTorchチェックポイントが配られているからと言って無邪気に使っちゃうと、超ヤバイよ、というお話になります。 みなさまモデルチェックポイントをロードする際のセキュリティリスクについて考えたことはありますでしょうか。実はモデルの重みファイルだとばかり思っていたチェックポイントが、思わぬセキュリティホールになる可能性があります。 本記事では、PyTorchのtorch.load関数の安全性と、モデルチェックポイントを適切に扱うための実践的なガイドラインを紹介します。 モデルチェックポイントの隠れた危険性 PyTorchのtorch.load関数は非常に便利な一方で、セキュリティ上の重大なリスクを含んでいます。 その理由は、 * チェックポイント単なるパラメータだけではないよ! チェックポイントファイルには、モデルの重み(weights)だけでなく、クラスや関数など任意のPythonコードを含めることが可能です。 * 実行可能なコードが入ってるよ! これは、チェックポイントが単なる「データファイル」ではなく、Pytho

By Qualiteg プロダクト開発部
[AI新規事業創出]Qualitegオリジナル、アイデア評価、事業アイデア選定方法

[AI新規事業創出]Qualitegオリジナル、アイデア評価、事業アイデア選定方法

Qualiteg blogを訪問してくださった皆様、こんにちは。Micheleです。AIを活用した新規事業やマーケティングを手がけている私には、クライアントからよく寄せられる質問があります。AIを用いた事業展開を検討されている方々が共通して直面するであろう課題に対して、このブログを通じて私なりの解答をご提供したいと思います。 AIを活用した事業アイデア評価と選定方法 | Qualitegオリジナルアプローチ 新規事業の立ち上げは、アイデアの創出から始まりますが、その後の評価と選定プロセスこそが成功の鍵を握ります。Qualitegでは、AIを積極的に活用した独自の評価・選定メソッドを開発し、より客観的かつ多角的な視点でビジネスアイデアを検証しています。今回は、私たちの実践的なアプローチをご紹介します。 AIを活用したアイデア評価の基本フレームワーク 当社のアイデア評価プロセスは、以下の2段階で構成しております。 1. 多次元評価マトリックスによる定量分析 まず、出てきたアイデアについて、ChatGPTなどの大規模言語モデル(LLM)を活用し、以下の8つの評価軸でアイデア

By Join us, Michele on Qualiteg's adventure to innovation
Windows Terminal で「無効な "icon" を持つプロファイルが見つかりました。既定では、そのプロファイルにアイコンはありません。」が出たときの対処法

Windows Terminal で「無効な "icon" を持つプロファイルが見つかりました。既定では、そのプロファイルにアイコンはありません。」が出たときの対処法

何度か、WSL にいろんなバージョンのLinux を入れたり消したりしたときに遭遇した現象です ユーザー設定の読み込み中にエラーが発生しました 無効な "icon" を持つプロファイルが見つかりました。既定では、そのプロファイルにアイコンはありません。"icon" を設定するときは、値が画像への有効なファイルパスとなっていることをご確認ください。 が発生するときの原因と対象法のレポートです 原因 使われなくなったゾンビ・プロファイルがWindows Terminal (のキャッシュ)に残り続ける 対処法 このメッセージを解消するには、いったん、プロファイルをリセットする必要がありました。 ※既存プロファイル設定が消える場合があるので留意すること Step1 Windows Terminal を落とす Windows Terminal をいったんすべて落とす Step2 settings.json を消す エクスプローラーで settings.json のあるフォルダに移動しファイルを削除する %LOCALAPPDATA%\Packages\Micros

By Qualiteg プロダクト開発部