ChatGPTによるAI革命と今後の展望

ChatGPTによるAI革命と今後の展望
Photo by Drew Dizzy Graham / Unsplash

今日は ChatGPT による革命と今後の展望について書いてみたいとおもいます。

ChatGPTはほとんどの業界に大きな影響を与えているのは周知のとおりです。

このテキストベースのAIは、業務の自動化と効率化に貢献しており、その影響は広範囲に及ぶと予想されます。しかし、ChatGPTの成長と進化の途上には、いくつかの課題が存在しています。ここでは、ChatGPTが引き起こすAI革命、その業界への影響、そして将来への展望について掘り下げていきたいとおもいます。

ChatGPTによる業界の変革

ChatGPTは、既に世の中の9割の業界で劇的な変化をもたらしているといわれています。このAI技術は、顧客サービスからマーケティング、保険、HR、さらには開発まで、幅広い分野で業務の自動化と効率化を実現しています。

(我々の開発でもこれまで人間がやっていた仕様書定義・整理や単体テスト設計などで絶大な効果をあげています。)

例えば、顧客サービスでは、ChatGPTを用いたチャットボットが24時間体制で顧客の問い合わせに応じることが可能になり、人的リソースの負担を大幅に軽減しています。また、コンテンツ作成やコードの自動生成など、従来、人間らしい創造的なタスクといわれていた分野にもChatGPTが活躍しており、業務の質とスピードの向上に貢献しています。

成長の限界と今後の方向性

しかしながら、ChatGPTの成長には、公開データのみを利用した学習に限界があるという疑問が残ります。約13兆トークンのデータで学習されたChatGPTも、インターネットやWikipedia、有料コーパスなどの公開データに依存しています。これらのデータには、必然的に限界があり、AIの理解と応用の幅を制限しています。

モデルサイズを大きくすると賢くなる というスケーリング法則が正しいとすると、賢くするためにはモデルサイズを大きくしなくてはならず、モデルサイズが大きいということは、それだけ多くのパラメータ・ウェイトが満腹になるだけのデータを食べさせてあげる必要があるからです。

データの量を増やすには幅方向と深さ方向があります。幅方向はよりWikipediaに代表されるような広範な知識。一方、深さ方向は特定の領域に関する専門性の高い知識。これら知識を含むデータをどれだけ集められるかですが、直近のムーブメントは深さ方向に焦点が当たるでしょう。

つまり、”特定業界に特化”して、その業界データ、または、企業固有データを取り込んで、どのように成長させていくか、という軸の動きが活発になっていくと考えています。

企業固有のデータや専門的な業界データを学習に組み込むことで、ChatGPTはより具体的で専門的な知識を持つことができ、特定業界におけるより高度なタスクの実行が可能になります。

業界特化(ドメイン固有)への進化

ChatGPTが多くの業界で広く受け入れられる中で、各業界特有のニーズへの対応が求められています。初期段階では、ChatGPTは一般的なタスクで広く活躍しますが、企業は自社固有のデータや業界特有の課題解決を求めるようになります。たとえば、金融業界では、規制遵守やリスク管理に関する深い理解が求められ、医療業界では、患者のプライバシーを保護しながら、個々の医療記録を分析する能力が必要になります。

オープンLLM勢の影響

AI界隈、特にオープンLLM(Large Language Models)に焦点を当てた時、OpenAI、Anthropic、Cohereといった大手LLMプロバイダーだけでなく、オープンソースのLLMプロジェクトにも目を向ける価値があります。我々にも深く関係のあるオープンLLMプロジェクトはどうなるでしょうか。私たちは、「業界特化」がオープンLLM勢にとっての大きなチャンスになると考えています。

現在、多くのオープンLLMプロバイダーは、性能をChatGPTに近づける、あるいはそれを超えることに注力しています。しかし、"一般知識"における一定レベルの性能達成後、次なる焦点は、特定の業界や領域に特化したモデルの構築能力に移ります。ここでのキーポイントは、特定業界の深い知識を活かした事前学習の効率化と、それに伴うファインチューニングのバランスです。短い開発期間(TAT: Turn Around Time)でこれらを実現することが、技術的な挑戦となります。

たとえば、医療や法律などの専門分野では、専門用語の理解と適用が必須となります。これらの分野での高度なタスクをこなせるLLMを開発するためには、専門家の知識を取り入れた訓練データの収集や、特定分野での事例に基づいたファインチューニングが不可欠です。さらに、ファイナンスやエネルギー分野では、市場の動向や規制の変更にタイムリー・迅速に対応する能力も求められるでしょう。これらの業界特化モデルの開発には、業界固有のデータ収集や、リアルタイムのデータ処理能力が重要となります。

これらの進化に伴い、ChatGPTが占める市場は一強ではなくなり、多様な「業界特化」モデルを提供できるプロバイダーが台頭してくると(期待を込めて^^)予想しています。これらのモデルを支えるためには、強力な推論プラットフォームと、推論アプリケーションを支える基盤・フレームワークが不可欠です。当社が提供するChatStreamや関連サービスは、この新たな時代における業界特化モデルの開発と展開を強力にサポートします。これにより、顧客はタイムリーに、そして柔軟に業界特化の問題解決を行うことが可能となります。当社の技術が、次世代のLLMの展開において、どのように価値を提供できるかを考えることは、非常に刺激的です。そして楽しい!


navigation

Read more

GPUメモリ最適化の深層:初回と最終バッチの特殊性を踏まえた効率的なAI画像処理

GPUメモリ最適化の深層:初回と最終バッチの特殊性を踏まえた効率的なAI画像処理

はじめに こんにちは!Qualitegプロダクト開発部です。 当社では、LLMテクノロジーをベースとしたAIキャラクター、AIヒューマンの研究開発を行っています。そんな中、表情、仕草のように「人間らしさ」をもったバーチャルヒューマンを再現するときには画像生成、画像編集といったAIを活用した画像処理が必要となります。 人と対話するAIヒューマンやバーチャルヒューマンはタイムリーに表情や仕草を生成する必要があるため、複数の画像をフレーム連結してつくるモーション(シンプルにいうと動画)を短時間に生成する必要があります。 このようなとき、AIトレーニングやシンプルな推論とは異なり、いかにGPUの能力を引き出してやるか「GPUの使いこなし術」がミソとなります。 GPUの使いこなし術というと、以前のブログにも連続バッチやダイナミックバッチについてLLM推論のコンテクストで語りましたが、本日は画像処理におけるGPUメモリ最適化、とくに、推論時バッチにおける「初回と最終回」のお作法という少しマニアックな話題について語ってみようとおもいます。 画像処理とGPU GPUを用いた画像

By Qualiteg プロダクト開発部
Qualitegセレクション:アイディア深堀編③RoundRobinの活用術

Qualitegセレクション:アイディア深堀編③RoundRobinの活用術

Qualiteg blogを訪問してくださった皆様、こんにちは。Micheleです。AIを活用した新規事業やマーケティングを手がけている私には、クライアントからよく寄せられる質問があります。AIを用いた事業展開を検討されている方々が共通して直面するであろう課題に対して、このブログを通じて私なりの解答をご提供したいと思います。 Qualitegセレクション、アイディア深堀編もいよいよ第3弾!今回は、複数人でアイディアを発散・深堀する際に効果的な RoundRobin(ラウンドロビン) という手法をご紹介します。ブレインストーミングに行き詰まった時や、多様な視点を取り入れたい時にぜひ活用してみてください。 RoundRobinとは? RoundRobinとは、様々な場面で用いられますが、大抵の場合において「持ち回り」、つまり「何かの役割・出番をたくさんの物事・人員で交替しあう」というような意味で使うことが多いです。 ここでは、参加者全員が順番にアイディアを出し、それを記録していく手法をRoundRobinと呼んでいます。順番に意見を述べることで、発言力の差による偏りをなくし、全

By Join us, Michele on Qualiteg's adventure to innovation
PyTorchバージョンとNVIDIA GPU Compute Capability Level サポート

PyTorchバージョンとNVIDIA GPU Compute Capability Level サポート

古いPyTorchコード資産を持っている会社は、昔のコードが最新のPyTorchで動かない!最新のGPUで動かない!ということに遭遇することが多いのでしょうか。 今回は、PyTorchバージョン、対応GPU Capability Level 、対応CUDAバージョンについてまとめてみます。 PyTorchがサポートするGPUの Compute Capability PyTorch バージョン サポートされる Compute Capability (SM) レベル 1.0.0 - 1.3.1 SM_35, SM_37, SM_50, SM_60, SM_61, SM_70 1.4.0 - 1.7.1 SM_37, SM_50,

By Qualiteg プロダクト開発部
Qualitegセレクション:アイディア深堀編②6W2Hの活用術

Qualitegセレクション:アイディア深堀編②6W2Hの活用術

Qualiteg blogを訪問してくださった皆様、こんにちは。Micheleです。AIを活用した新規事業やマーケティングを手がけている私には、クライアントからよく寄せられる質問があります。AIを用いた事業展開を検討されている方々が共通して直面するであろう課題に対して、このブログを通じて私なりの解答をご提供したいと思います。 本日のテーマは6W2H Qualitegセレクションは、ユーザーエクスペリエンス(UX)向上のためのヒントやツールを紹介するシリーズです。今回は、アイディアをより具体的に、実行可能なレベルまで深堀りする手法として、6W2Hの活用術をご紹介します。 優れたUXを実現するには、ユーザーのニーズを深く理解し、それを満たすサービスやプロダクトを提供することが不可欠です。そのためには、アイディア段階で徹底的に検討し、実現可能性や課題を明確にする必要があります。 今回は、アイディアを深堀りする際に非常に役立つツール「6W2H」について詳しくご紹介します。 6W2Hとは? 6W2Hは、問題解決や状況分析のための強力なフレームワークです。以下の8つの質問から構成さ

By Join us, Michele on Qualiteg's adventure to innovation