ChatStream α1(プレビュー)提供のお知らせ

ChatStream α1(プレビュー)提供のお知らせ

株式会社 Qualiteg は LLMアプリケーション開発ツールキット ChatStream™ のαプレビュー版の提供を開始いたしました。

ChatStream™ とは 高品質な商用 LLM アプリケーションを簡単に構築できる Python ライブラリです。

Web フロントエンド(チャットUI) と 推論実行サーバーソフトウェア で構成されており、追加のソフトウェア開発をせずに ChatStream™ だけで LLM アプリケーションを実現することができます。

また、頭脳となる LLM には HuggingFace 等で提供されているオープンソースLLMを使用することができます。(ChatGPT等のAPIをつなぎこむことも可能です)。

2023年9月 現在は、 Pythonのライブラリ として AGPL および 商用ライセンスで提供しています。

以下サイトよりオンラインデモをご体験ください!

https://chatstream.net

このデモのようなアプリケーションをほぼノーコードで作成することができます。

ChatStreamは本格的な商用用途に向けて設計されており、以下のような特長を持っております

ChatStream の特長

  1. 高いUXを実現したチャットUI

    1. ChatGPTライクなユーザーインタフェースで迷わない
    2. マルチモーダルに対応した柔軟なチャットUI設計
  2. 短TATで高性能・高品質なチャットアプリを構築可能

    1. コマンド1つでインストール
    2. ローコード。数行のコードで本格的なLLM対話チャットを構築可能
  3. 高負荷設計

    1. 非同期文章生成処理により多ユーザー同時アクセスにも安定した応答
    2. 多ノード構成によりスケールアウトが容易
  4. 柔軟な動作環境(特定の環境に依存しない)

    1. Llama、RedpajamaIncite、Rinna など主要なLLM対応の動確済
    2. 各種ユーザー認証機構に柔軟に対応できる設計
    3. オンプレおよび各種クラウドプラットフォームに対応
    4. 推論実行はCPUおよびNVIDIA製 GPU (マルチGPUも可)対応
  5. 高UXなアプリ開発を加速化

    1. カスタマイズ可能なUIプリセットを豊富に準備
    2. LLM出力適正化を行う開発支援機能

動作環境は以下のとおりです。
(標準的な Python + NVIDIA GPU 環境で動作いたします)

動作環境

  • Python

    • Python 3.10 ~
    • Pytorch
  • GPU

    • NVIDIA CUDA 11.7 対応 GPU
  • 負荷分散

    • マルチGPUスケールアウト対応
    • マルチノードスケールアウト対応
    • リクエストキューイングによる負荷コントロール
  • OS

    • Linux
    • Windows Server
  • API

    • LLM の API 化に対応
  • 暗号化(TLS/SSL)

    • 対応
  • ユーザー認証

    • OAuthによる認証
    • メール認証
    • (他、独自認証に対応可能)

サポート

  • 豊富な日本語ドキュメント
  • 手厚いサポート
    • フルスクラッチ開発であるため、すみずみまで知り尽くしたエンジニアによるハンズオンサポートを英語・日本語にて提供
    • 時差なく、日本のワーキングタイムにサポート対応

次回以降、ビジネス面、技術面についてより詳しくご紹介してまいります!


株式会社Qualitegでは、 生成AIを活用した貴社課題解決、ChatStream 基盤とした LLM アプリケーション構築、PoCのコンサルティング、ご支援を行っております。

ご相談・ご用命は当社営業担当または以下コンタクトにてお問合せください。

https://qualiteg.com/contact


Read more

CEATEC 2025に出展します!フォトリアルAIアバター「MotionVox🄬」の最新版を実体験いただけます

CEATEC 2025に出展します!フォトリアルAIアバター「MotionVox🄬」の最新版を実体験いただけます

株式会社Qualitegは、2025年10月14日(火)~17日(金)に幕張メッセで開催される「CEATEC 2025」に出展いたします。今回の出展では、当社が開発したフォトリアリスティックAIアバター技術「MotionVox🄬」をはじめ、最新のAI技術とビジネスイノベーションソリューションをご紹介いたします。 出展概要 * 会期:2025年10月14日(火)~10月17日(金) * 会場:幕張メッセ * 出展エリア:ネクストジェネレーションパーク * ブース番号:ホール6 6H207 * CEATEC内特設サイト:https://www.ceatec.com/nj/exhibitor_detail_ja?id=1915 見どころ:最先端AI技術を体感できる特別展示 1. フォトリアルAIアバター「MotionVox🄬」 テキスト入力だけで、まるで本物の人間のような動画を生成できる革新的なAIアバターシステムです。 MotionVox🄬は自社開発している「Expression Aware🄬」技術により日本人の演者データを基に開発された、

By Qualiteg ニュース
その処理、GPUじゃなくて勝手にCPUで実行されてるかも  ~ONNX RuntimeのcuDNN 警告と対策~

その処理、GPUじゃなくて勝手にCPUで実行されてるかも ~ONNX RuntimeのcuDNN 警告と対策~

こんにちは! 本日は、ONNX RuntimeでGPU推論時の「libcudnn.so.9: cannot open shared object file」エラーの解決方法についての内容となります。 ONNX Runtimeを使用してGPU推論を行う際、CUDAプロバイダの初期化エラーに遭遇することがありますので、このエラーの原因と解決方法を解説いたします。 エラーメッセージの詳細 [E:onnxruntime:Default, provider_bridge_ort.cc:2195 TryGetProviderInfo_CUDA] /onnxruntime_src/onnxruntime/core/session/provider_bridge_ort.cc:1778 onnxruntime::Provider& onnxruntime::ProviderLibrary::Get() [ONNXRuntimeError] : 1 : FAIL : Failed to load

By Qualiteg プロダクト開発部
大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第3回 クライアントとサーバーのドメイン参加

大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第3回 クライアントとサーバーのドメイン参加

こんにちは、今回はシリーズ第3回クライアントとサーバーのドメイン参加について解説いたします! はじめに こんにちは!シリーズ第3回「クライアントとサーバーのドメイン参加」へようこそ。 前回(第2回)では、Active Directoryドメイン環境の構築手順について、ドメインコントローラーのセットアップからDNS設定まで詳しく解説しました。ドメイン環境の「土台」が整ったところで、今回はいよいよ実際にコンピューターをドメインに参加させる手順に進みます。 「ドメインユーザーアカウントを作ったのに、なぜかログインできない」「新しいPCを追加したけど、ドメイン認証が使えない」といった経験はありませんか?実は、Active Directoryの世界では、ユーザーアカウントを作成しただけでは不十分で、そのユーザーが使用するコンピューター自体もドメインに「参加」させる必要があるのです。 本記事では、このドメイン参加について、単なる手順の説明にとどまらず、「なぜドメイン参加が必要なのか」「裏側で何が起きているのか」という本質的な仕組みまで、初心者の方にも分かりやすく解説していきます。Win

By Qualiteg コンサルティング
使い捨てソフトウェア時代の幕開け ― 市場構造の根本的変革と日本企業

使い捨てソフトウェア時代の幕開け ― 市場構造の根本的変革と日本企業

こんにちは、株式会社Qualiteg コンサルティング部門です。 昨今、生成AIの急速な進化により、ソフトウェア開発の在り方が根本から変わりつつあります。2024年にはClaude、GPT-4、Geminiなどの大規模言語モデルがコード生成能力を飛躍的に向上させ、GitHub CopilotやCursor、Windsurf等の開発支援ツールが実際の開発現場で広く活用されるようになりました。さらに、Devin、OpenAI Canvas、Anthropic Claude Codingといった、より高度な自律的コーディング機能を持つAIエージェントも登場しています。 このような技術革新を背景に、当部門では今後のソフトウェア産業の構造変化について詳細な分析を行いました。本シリーズでは、特に注目すべき変化として、従来1000人月規模を要していた企業向けSaaSプラットフォームや、基幹システムが、AIエージェントを効果的に活用することで、わずか2-3名のチームが数日から数週間で実装可能になるという、開発生産性の劇的な向上について考察してまいります。 これは単なる効率化ではなく、ソフトウェア

By Qualiteg コンサルティング