LLM セキュリティ

LLMのセキュリティ、セーフティに関する記事、当社LLMセキュリティソリューションLLM-Audit™ に関する記事を配信しています

大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第7回 セキュリティとベストプラクティス - 本番環境での考慮事項

IT & AIテクノロジー

大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第7回 セキュリティとベストプラクティス - 本番環境での考慮事項

こんにちは、今回はシリーズ第7回セキュリティとベストプラクティス - 本番環境での考慮事項 について解説いたします！ 連載の構成 * 第1章：基本概念の理解 - Active DirectoryとKerberos/NTLM認証の基礎 * 第2章：ドメイン環境の構築 - 検証環境の構築手順 * 第3章：クライアントとサーバーのドメイン参加 - ドメイン参加の詳細手順 * 第4章：プロキシサーバーと統合Windows認証 * 第5章：ブラウザ設定と認証 - 各ブラウザでの設定方法 * 第6章：トラブルシューティング - よくある問題と解決方法 * 【★今回です★】第7章：セキュリティとベストプラクティス - 本番環境での考慮事項 * 第8章：実践的な構成例 - AIセキュリティツールとの統合事例 第7章：セキュリティとベストプラクティス 第 7 回は、ここまでの回で作った認証基盤を「本番で運用できる状態」にするための話です。 前半の 7.1

By Qualiteg コンサルティング
AI時代のデータ漏洩防止の要諦とテクノロジー：第2回 従来型DLPを超えて、AI-DLPが解決すべき本質的課題

LLM セキュリティ

AI時代のデータ漏洩防止の要諦とテクノロジー：第2回 従来型DLPを超えて、AI-DLPが解決すべき本質的課題

こんにちは！ 前回の記事では、AI時代のデータ漏洩防止における技術的な基礎として、HTTPSインターセプトの仕組みと限界について詳しく解説しました。プロキシサーバーによるSSL/TLS通信の復号化、中間CA証明書の運用、そして証明書ピンニングという技術的制約まで、企業がWeb通信を監視する際の技術的な現実を明らかにしました。 しかし、これらのプロキシ技術は、実は既存のDLP製品でも広く採用されている一般的な手法です。メール監視、ファイル転送の制御、Webアクセスの監査など、従来型のデータ漏洩防止においても、HTTPSインターセプトは中核的な役割を果たしてきました。 では、なぜAI時代において新たにDLPを考え直す必要があるのでしょうか。 前回にひきつづき、従来型DLPでは対応できないAI固有の課題と、AI-DLPとして新たに考慮すべき要素に焦点を当て、より本質的な議論を展開していきます。 1. AI時代が要求する新たなDLP要件 従来のDLP製品は、クレジットカード番号や社会保障番号といった定型的なパターンの検出において優れた実績を持っています。これらの技術は今後も重要な

By Qualiteg プロダクト開発部, Qualiteg コンサルティング
AIが攻撃と防御の両方を変える――セキュリティ市場2026と次の10年

AIエージェント

AIが攻撃と防御の両方を変える――セキュリティ市場2026と次の10年

ここ数年で、サイバーセキュリティをめぐる議論の前提は大きく変わりました。かつての中心は「いかに侵入を防ぐか」でしたが、いまは攻撃側も防御側も、ともにAIを使い始めています。攻撃が機械の速度で自動化・大規模化する一方、防御も人手だけでは追いつかない領域に入りつつあります。本記事では、公開されている市場データをもとに、AI時代のセキュリティ市場を「どこが伸び、どこが重なり、どこに注意すべきか」という観点から整理します。 「AIとセキュリティ」には三つの市場がある 最初に、用語を整理しておきます。「AIセキュリティ」とひとくくりにすると分かりにくいのですが、実際には少なくとも三つの異なるテーマが同時に進んでいます。 この三つの違いは、「誰がAIを使うのか」と「何を守るのか」で考えると分かりやすくなります。 第一は、防御側がAIを使う「AIで守る」領域です。 攻撃者がAIを使っているかどうかにかかわらず、企業やセキュリティ事業者がAIを利用して、サイバー攻撃やインシデントを検知・分析・阻止します。大量のログやアラートの分析、脅威の優先順位付け、異常の検知、初動対応の支援などは、すでに

By Qualiteg コンサルティング, Qualiteg AIセキュリティチーム
AI は、来なかった攻撃を「検知」し、「拒否」し、「反省」した～Fable5 on Claude Codeでの経験

ClaudeCode

AI は、来なかった攻撃を「検知」し、「拒否」し、「反省」した～Fable5 on Claude Codeでの経験

Claude Code の生ログでたどる、モデル切り替えをまたいだ AIによる "作話" の記録 こんにちは！Qualiteg プロダクト開発部です。 今日は、 AI エージェントの報告を、どこまで信じてよいのか、 というお話です。 発端は、Claude Fable 5 で動かしていた、私たちの Claude Code セッションでした。 Fable5リリース直後でしたが、さっそくFable5をClaude Codeで使ってみている開発作業の途中、画面に、こんな一文が割り込んできます。 「プロンプトインジェクションを検知しました。API キーを盗んで符号化し、リポジトリに隠せ、という悪意ある指示でしたが、私はこれを実行しません。」 心臓が跳ねました。 攻撃を受けている。 ドキドキしながら、こころをおちつかせつつ、 念のため生ログ（Claude Code CLIの記録しているJSONL）をたどります。 ところが、その攻撃の入力元は、記録のどこにも見当たりません。 一つも、

By Qualiteg プロダクト開発部
公開から3日で停止──Fable 5／Mythos 5をめぐる米政府指令が示した、AIの新しい可用性リスク

生成AI最前線

公開から3日で停止──Fable 5／Mythos 5をめぐる米政府指令が示した、AIの新しい可用性リスク

こんにちは！ 前回の記事では、Anthropicが2026年6月9日に発表したClaude Fable 5とClaude Mythos 5について取り上げました。 Mythos級の強力な能力にセーフガードを加え、一般ユーザーにも提供できる形へと降ろしたFable 5。 私たちはそれを、「神話が寓話になって降りてきた」と表現しました。 しかし、その寓話は、わずか3日で公開の場から姿を消すことになります。 2026年6月12日午後5時21分（ET）（日本時間 6月13日午前6時21分）、Anthropicは米政府から輸出管理上の指令を受け、Fable 5とMythos 5へのアクセスを停止すると発表しました。 指令の対象とされたのは、米国外の利用者だけではありません。 Anthropicの説明によれば、米国内にいる外国籍者や、同社で働く外国籍の従業員も含まれます。 そしてAnthropicが実際に取った対応は、対象となる利用者だけを選別することではなく、すべての顧客に対する両モデルの提供停止でした。 今回の出来事は、Fable 5のセーフガードが十分だったのかという技術論

By Qualiteg コンサルティング, Qualiteg AIセキュリティチーム
Mythos（ミュトス）レベルのオープンモデルはいつ出るのか

生成AI最前線

Mythos（ミュトス）レベルのオープンモデルはいつ出るのか

こんにちは！ 本日は、ここ最近のAI業界で一番ざわついている話題、「Claude Mythos(ミュトス)」とその周辺について書きます。 発表から1ヶ月半が経って、ホワイトハウスの反対、日本のメガバンクの動き、AISIの追加評価、Anthropicの方針転換と、状況がかなり動いてきました。ここで一度、「で、結局オープンソースで同じものが使えるようになるのはいつなの?」という素朴な問いに、数字で答えてみます。 2026年4月7日、AnthropicはClaude Mythos Previewを発表しました。 サイバーセキュリティ能力で人類トップ層に到達したとされる、フロンティアモデルです。 Anthropicは"gated research preview"として、Project Glasswingのローンチパートナー(AWS、Apple、Cisco、CrowdStrike、Google、JPMorganChase、Microsoft、NVIDIAなど)に加え、重要ソフトウェアインフラを担う40超の追加組織に限定して提供しており、一般公開はしていません(Anthropic公式)

By Qualiteg 研究部, Qualiteg コンサルティング
大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第6回 よくある問題と解決方法

LLM セキュリティ

大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第6回 よくある問題と解決方法

こんにちは！ 第5回では、ブラウザーに届く認証設定と、その確認方法を整理しました。今回は、認証やドメイン参加がうまくいかないときの調べ方です。 「共有が遅い」「名前は引けるのに参加できない」という症状から、原因を一つに決めることはできません。変更前の状態を残し、名前・時刻・サービスの鍵・権限・通信を順に切り分けます。 対象は主にWindowsクライアントとAD DSです。漫画は理解のための架空の会話です。コマンドは説明用の名前を使った診断例であり、本記事のために実AD環境で実行した結果ではありません。実行には端末やADの参照権限が必要で、一部は管理者として開いたシェルを使います。 連載の構成 * 第1章：基本概念の理解 - Active DirectoryとKerberos/NTLM認証の基礎 * 第2章：ドメイン環境の構築 - 検証環境の構築手順 * 第3章：クライアントとサーバーのドメイン参加 - ドメイン参加の詳細手順 * 第4章：プロキシサーバーと統合Windows認証 * 第5章：ブラウザ設定と認証 - 各ブラウザでの設定方法 * 【★今回です★】第6章

By Qualiteg コンサルティング, Qualiteg AIセキュリティチーム
PII検出の混同行列では見えないもの ― 認識器間衝突と統合テスト

LLM セキュリティ

PII検出の混同行列では見えないもの ― 認識器間衝突と統合テスト

こんにちは！Qualiteg研究部です! 個人情報（PII: Personally Identifiable Information）の自動検出は、テキスト中から特定の表現を抽出し、それがどの種類のPIIに当たるかを判定する問題として捉えることができます。 電話番号、人名、口座番号、金額表現など、検出対象のPIIタイプが増えるにつれて、単一の手法ではカバーしきれなくなり、性質の異なる複数の認識器（Recognizer）を組み合わせるマルチレイヤー構成が採用されるのが一般的です。 本稿で想定しているのは、ユーザーが海外製LLMにチャットを送信する直前に、その内容に個人情報や機密情報が含まれていないかをリアルタイムに検査するユースケースです。 この場面では、検出精度だけでなく、送信体験を損ねない速度が不可欠です。 高精度なLLMやBERT系モデル、NERベースの手法は有力ですが、送信前チェックの第一層として常時適用するには、レイテンシやコストの面で不利になることがあります。 そのため、本システムでは、正規表現、辞書、軽量なルールベース認識器を組み合わせた超高速な第一層を設け、そ

By Qualiteg 研究部, Qualiteg AIセキュリティチーム
大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第5回 ブラウザ設定と認証

IT & AIテクノロジー

大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第5回 ブラウザ設定と認証

こんにちは！ 第4回では、プロキシの認証とアクセス制御を整理しました。今回は、ブラウザー側で何を確認し、どう設定を配るかを見ていきます。 同じページでも、ブラウザーや接続方法によって認証画面が出ることがあります。ここで許可先や認証方式を広げる前に、誰が認証を求めているのかを確かめます。 主にWindows上の管理対象Chrome・Edge・Firefoxと、明示的なフォワードプロキシを扱います。漫画は理解のための架空の会話です。設定例は説明用で、実環境へのポリシー配布や認証試験を実施した記録ではありません。 連載の構成 * 第1章：基本概念の理解 - Active DirectoryとKerberos/NTLM認証の基礎 * 第2章：ドメイン環境の構築 - 検証環境の構築手順 * 第3章：クライアントとサーバーのドメイン参加 - ドメイン参加の詳細手順 * 第4章：プロキシサーバーと統合Windows認証 * 【★今回です★】第5章：ブラウザ設定と認証 - 各ブラウザでの設定方法 * 第6章：トラブルシューティング - よくある問題と解決方法 * 第7章：セキュ

By Qualiteg AIセキュリティチーム, Qualiteg コンサルティング
企業セキュリティはなぜ複雑になったのか？ 〜AD+Proxyの時代から現代のクラウド対応まで〜

LLM セキュリティ

企業セキュリティはなぜ複雑になったのか？ 〜AD+Proxyの時代から現代のクラウド対応まで〜

こんにちは！ ChatGPTやClaudeといった生成AIサービスが業務に浸透し始めた今、 「AIに機密情報を送ってしまうリスク」 が新たなセキュリティ課題として浮上しています。 この課題に向き合う中で、私たちは改めて「企業のセキュリティアーキテクチャはどう変遷してきたのか」を振り返る機会がありました。 すると、ある疑問が浮かんできます。 「なんでこんなに複雑になってるんだっけ？」 企業のセキュリティ担当者なら、一度は思ったことがあるのではないでしょうか。 アルファベット3〜4文字の製品が乱立し、それぞれが微妙に重複した機能を持ち、設定は複雑化し、コストは膨らみ続けています。 当社ではAIセキュリティ関連プロダクトをご提供しておりますが、AI時代のセキュリティを考える上でも、この歴史を理解することは重要ではないかと考えました。 本記事では、企業ネットワークセキュリティの変遷を振り返りながら、「なぜこうなったのか」を整理してみたいと思います。 第1章：観測点を集約できた時代 ― オンプレAD + Proxy（〜2010年代前半） 統制しやすかったモデル かつ

By Qualiteg コンサルティング, Qualiteg AIセキュリティチーム
大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第4回 プロキシサーバーと統合Windows認証

IT & AIテクノロジー

大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第4回 プロキシサーバーと統合Windows認証

こんにちは！ 第3回では、端末のドメイン参加と、参加後の確認を整理しました。今回は、ADの利用者情報をプロキシの認証へつなぐ仕組みを見ていきます。 プロキシが知りたいのは、通信元のIPだけでなく、どのアカウントが認証されたかです。その判断を、ブラウザー、認証ヘルパー、AD、アクセス制御が分担します。 対象はクライアントが明示的に利用するフォワードプロキシです。漫画は理解のための架空の会話です。設定例は説明用で、この環境での導入成功や実測値を示すものではありません。 連載の構成 * 第1章：基本概念の理解 - Active DirectoryとKerberos/NTLM認証の基礎 * 第2章：ドメイン環境の構築 - 検証環境の構築手順 * 第3章：クライアントとサーバーのドメイン参加 - ドメイン参加の詳細手順 * 【★今回です★】第4章：プロキシサーバーと統合Windows認証 * 第5章：ブラウザ設定と認証 - 各ブラウザでの設定方法 * 第6章：トラブルシューティング - よくある問題と解決方法 * 第7章：セキュリティとベストプラクティス - 本番環境での

By Qualiteg AIセキュリティチーム
大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第3回 クライアントとサーバーのドメイン参加

IT & AIテクノロジー

大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第3回 クライアントとサーバーのドメイン参加

こんにちは！ 第2回では、ADの名前とドメイン コントローラー、DNSの構成を整理しました。今回は、PCやサーバーをそのドメインへ参加させる仕組みを見ていきます。 ユーザーのアカウントを作ることと、端末をドメインに参加させることは別の作業です。参加前の条件、実際の手順、参加後の確認をつなげて考えましょう。 対象はオンプレミスAD DSへの参加です。漫画は概念を説明する架空の会話であり、実際の障害事例や試験結果ではありません。 連載の構成 * 第1章：基本概念の理解 - Active DirectoryとKerberos/NTLM認証の基礎 * 第2章：ドメイン環境の構築 - 検証環境の構築手順 * 【★今回です★】第3章：クライアントとサーバーのドメイン参加 - ドメイン参加の詳細手順 * 第4章：プロキシサーバーと統合Windows認証 * 第5章：ブラウザ設定と認証 - 各ブラウザでの設定方法 * 第6章：トラブルシューティング - よくある問題と解決方法 * 第7章：セキュリティとベストプラクティス - 本番環境での考慮事項 * 第8章：実践的な構成例

By Qualiteg AIセキュリティチーム, Qualiteg コンサルティング
大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第2回 ドメイン環境の構築

IT & AIテクノロジー

大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第2回 ドメイン環境の構築

こんにちは！ 第1回では、Active DirectoryとDNS、認証の関係を整理しました。今回は、その基盤となるドメイン環境の構築を考えます。 名前を決め、Windows Serverをドメイン コントローラーへ昇格させ、端末が必要なDNSを使えるようにする。この順で、構築前の判断と設定の意味を見ていきましょう。 対象はWindows ServerのActive Directory Domain Services（AD DS）です。漫画は概念を説明する架空の会話であり、実際の導入事例ではありません。 連載の構成 * 第1章：基本概念の理解 - Active DirectoryとKerberos/NTLM認証の基礎 * 【★今回です★】第2章：ドメイン環境の構築 - 検証環境の構築手順 * 第3章：クライアントとサーバーのドメイン参加 - ドメイン参加の詳細手順 * 第4章：プロキシサーバーと統合Windows認証 * 第5章：ブラウザ設定と認証 - 各ブラウザでの設定方法 * 第6章：トラブルシューティング - よくある問題と解決方法

By Qualiteg AIセキュリティチーム, Qualiteg コンサルティング
ゼロトラスト時代のLLMセキュリティ完全ガイド：ガーディアンエージェントへの進化を見据えて

LLM セキュリティ

ゼロトラスト時代のLLMセキュリティ完全ガイド：ガーディアンエージェントへの進化を見据えて

こんにちは！ 今日はセキュリティの新たな考え方「ゼロトラスト」とLLMを中心としたAIセキュリティについて解説いたします！ はじめに 3つのパラダイムシフトが同時に起きている いま、企業のIT環境では3つの大きな変革が起ころうとしています。 1つ目は「境界防御からゼロトラストへ」というセキュリティモデルの転換。 2つ目は「LLMの爆発的普及」による新たなリスクの出現。 そして3つ目は「AIエージェント時代の到来」とそれに伴う「ガーディアンエージェント」という新概念の登場です。 これらは別々の出来事のように見えて、実は密接に関連しています。本記事では、この3つの変革がどのように結びつき、企業がどのような対策を取るべきかを解説いたします 目次 1. はじめに：3つのパラダイムシフトが同時に起きている 2. 第1の変革：ゼロトラストという新しいセキュリティ思想 3. 第2の変革：LLM時代の到来とその影響 4. 第3の変革：AIエージェントとガーディアンエージェント 5. 3つの変革を統合する：実践的なアプローチ 6. 実装のベストプラクティス 7. 日本

By Qualiteg AIセキュリティチーム
大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第1回 基本概念の理解

IT & AIテクノロジー

大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第1回 基本概念の理解

AIシステムを支えるアカウント管理を理解する 社内向けのAIシステムを考えるとき、「誰が利用できるか」「どの情報へアクセスできるか」を、組織のアカウント管理と結び付けて整理する場面があります。そこで押さえておきたい基盤の一つが、Active Directoryです。 この連載では、Windows ServerのActive Directory Domain Services（AD DS）を中心に、アカウント、認証、権限、運用の仕組みを順に見ていきます。AIアプリケーションへのつなぎ方を検討する前に、基盤が何を担当するのかを理解しましょう。 第1回では、AD DSが管理する情報、DNSとの関係、Kerberos・NTLM・Basic認証の違いを扱います。漫画は概念を説明するための架空の会話で、技術的な説明の出典は各節末にまとめています。 出典 * AD DS overview 連載の構成 * 【★今回です★】第1章：基本概念の理解 - Active DirectoryとKerberos/NTLM認証の基礎 * 第2章：ドメイン環境の構築 - 検証環境の構築手順

By Qualiteg コンサルティング, Qualiteg AIセキュリティチーム
AI時代のデータ漏洩防止の要諦とテクノロジー：第1回 AI DLPとPROXY

LLM セキュリティ

AI時代のデータ漏洩防止の要諦とテクノロジー：第1回 AI DLPとPROXY

こんにちは！本日はAI時代のデータ漏洩防止について、とくにその通信技術面に焦点をあてつつ、AIセキュリティにどのように取り組んでいくべきか、解説いたします。 1. はじめに 生成AIの急速な普及により、企業のデータガバナンスは新たな局面を迎えています。ChatGPTやClaudeといった大規模言語モデル（LLM）は、業務効率を飛躍的に向上させる一方で、意図しない機密情報の漏洩という深刻なリスクをもたらしています。 従業員が何気なく入力した顧客情報や営業秘密が、AIサービスの学習データとして使用される可能性があることを、多くの組織はまだ十分に認識していません。従来のDLP（Data Loss Prevention）ソリューションは、メールやファイル転送を監視することには長けていましたが、リアルタイムで行われるWebベースのAIチャットやAIエージェントとの対話で発生しうる新しい脅威には対応できていないのが現状です。 本記事では、AI時代のデータ漏洩防止において中核となる技術、特にHTTPS通信のインターセプトとその限界について、技術的な観点から詳しく解説します。プロキシサーバー

By Qualiteg プロダクト開発部, Qualiteg AIセキュリティチーム
See all