[AI数理]徹底的に交差エントロピー(5)

[AI数理]徹底的に交差エントロピー(5)

おはようございます!(株) Qualiteg 研究部です。

今回は、前回から拡張して データN件対応版の多値分類用 交差エントロピー を実際のデータをみながら導いていきたいとおもいます!

6章 多値分類用 交差エントロピー (データN件対応版)

実際の学習では、いちどに複数件の訓練データを入力して得られた複数の結果をまとめて評価するバッチ学習を行うため、複数の訓練データから得られた結果を同時に計算できるバージョンの交差エントロピーも考えておきます。

以下のような複数の訓練データの場合を考えます。

複数の訓練データなので、1件ずつの訓練データを見分けられるように番号をふった データ番号 列を導入しました。みやすくするため正解のデータに背景色をつけています。

この4件のデータを順番にモデルに入れたときの出力を計算すると以下のようになりました。予測値 列を右に追加しています。

さて、この4件の交差エントロピーを求めてみます。

これらのデータから1つずつ交差エントロピーを計算して、その値を合計すれば、4件ぶんの交差エントロピーの合計値を求めることができるので、特に難しいことはなく、1件ずつの交差エントロピーを計算して合計したいとおもいます。

まずは愚直に計算してみます。

1件目のデータの交差エントロピーを計算

1件目のデータの交差エントロピー は以下のようになります。ここで データ番号がわかるように、交差エントロピー \(E\) は \(E_{1}\) としました。

$$
\begin{aligned}
\ E_{1} = &- \sum_{k=1}^{K} t_{k} \log y_{k} &\
&= - ( t_{1} \log y_{1} + t_{2} \log y_{2} + t_{3} \log y_{3}) & \
&= - ( 1 \cdot \log 0.33 + 0 \cdot \log 0.32 + 0 \cdot \log 0.35) \
&= \log 0.33 = -0.481486 \
\
&K:分類の数, t_{k}:正解ラベル, y_{k}:モデルが計算した予測値&
\end{aligned}
$$

2件目のデータの交差エントロピーを計算

同様に、 \(E_{2}\) を計算すると、

$$
\begin{aligned}
\ E_{2} = &- \sum_{k=1}^{K} t_{k} \log y_{k} &\
&= - ( t_{1} \log y_{1} + t_{2} \log y_{2} + t_{3} \log y_{3}) & \
&= - ( 0 \cdot \log 0.30 + 1 \cdot \log 0.36 + 0 \cdot \log 0.34) \
&= \log 0.36 = -0.443697 \
\end{aligned}
$$

3件目のデータの交差エントロピーを計算

同様に、 \(E_{3}\) を計算すると、

$$
\begin{aligned}
\ E_{3} = &- \sum_{k=1}^{K} t_{k} \log y_{k} &\
&= - ( t_{1} \log y_{1} + t_{2} \log y_{2} + t_{3} \log y_{3}) & \
&= - ( 0 \cdot \log 0.37 + 0 \cdot \log 0.31 + 1 \cdot \log 0.32) \
&= \log 0.32 = -0.494850 \
\end{aligned}
$$

4件目のデータの交差エントロピーを計算

同様に、 \(E_{2}\) を計算すると、

$$
\begin{aligned}
\ E_{4} = &- \sum_{k=1}^{K} t_{k} \log y_{k} &\
&= - ( t_{1} \log y_{1} + t_{2} \log y_{2} + t_{3} \log y_{3}) & \
&= - ( 0 \cdot \log 0.34 + 1 \cdot \log 0.33 + 0 \cdot \log 0.33) \
&= \log 0.34 = -0.46852 \
\end{aligned}
$$

具体的な値を入れてみましょう。さきほどのデータ番号 \(i=1\) のデータでみてみましょう。

$$
\begin{aligned}
\boldsymbol{E_{1}} = &- \boldsymbol{t} \cdot \log (\boldsymbol{y})& \
=& -
\begin{pmatrix}
t_{1} \ t_{2} \ t_{3}
\end{pmatrix}
\log
\begin{pmatrix}
y_{1} \ y_{2} \ y_{3}
\end{pmatrix}
&
\\
=& -
\begin{pmatrix}
1 \ 0 \ 0
\end{pmatrix}
\log
\begin{pmatrix}
0.33 \ 0.32 \ 0.35
\end{pmatrix}
&
\\
=& -
\begin{pmatrix}
\log(0.33) \ 0 \ 0
\end{pmatrix}
&
\\
=&
\begin{pmatrix}
-0.481486 \ 0 \ 0
\end{pmatrix}
&
\end{aligned}
$$

さて、1件ずつ計算した4件ぶんの交差エントロピー \(E_{1}\)、\(E_{2}\)、\(E_{3}\)、\(E_{4}\) を合計したものが、4件ぶんの合計交差エントロピーとなります。これを \(E_{sum}\) とすると、

$$
E_{sum} = E_{1} + E_{2} +E_{3} +E_{4}
$$

これを \(\sum\) で表現すると、データ番号を \(i\) として

$$
E_{sum} = \sum_{i=1}^4 E_{i}
$$

となります。

今はデータ件数が 4件でしたが、これを \(N\) 件と一般化すると、

$$
E_{sum} = \sum_{i=1}^N E_{i} \tag{6.1} 
$$

となりますね。

ところで、もともと \(t_{k}\) や \(y_{k}\) は、分類番号を添え字につけており、今回だと「イヌ」「キツネ」「オオカミ」の3つに分類をしたかったので、 \(k={1},k=2,k=3\) としていました。
これは1件ぶんのデータ用としてはこれでよかったのですが、いまは 4件のデータがあるので、 \(t_{k}\) と \(t_{k}\) を一意に特定できるようにするため、データ番号 \(i\) を添え字として追加します。

具体的には以下のように \(t_{k}\) → \(t_{ik}\) 、 \(y_{k}\) → \(y_{ik}\) のように拡張しました。

これで、

  • \(t_{ik}\) は 訓練データの \(i\) 番目のデータの \(k\) 番目の要素
  • \(y_{ik}\) は 訓練データの \(i\) 番目のデータを入力したときのモデルの出力(予測値)の \(k\) 番目の要素

という意味となります。

よって \(i\) 番目のデータの 交差エントロピーは 式 \((5.2)\) に 添え字 \(i\) のを追加した以下のようになります。

$$
E_{i} = - \sum_{k=1}^{K} t_{ik} \log y_{ik} \tag{6.2}
$$

\(式(6.1)\) より

$$
\begin{aligned}
E_{sum} =& \sum_{i=1}^N E_{i} &\
\end{aligned}
$$

なので、データ N 件分を合計した交差エントロピーの合計は以下のようになります。

$$
\begin{aligned}
E_{sum} = & - \sum_{i=1}^N \sum_{k=1}^{K} t_{ik} \log y_{ik} &\
\end{aligned}
$$

上式は \(N\) 件分の合計値ですが、件数が異なっても比較できるように N で割って交差エントロピー \(E_{i}\) の平均をとり、 バッチ版つまり複数データ対応バージョンの交差エントロピー関数 \(E\) は以下のように定義されます。

$$
E = - \frac{1}{N} \sum_{i=1}^N \sum_{k=1}^{K} t_{ik} \log y_{ik} \tag{6.3}
$$

$$
\begin{aligned}
\
& N:データ件数& \
&i:データ番号& \
&K:分類の数& \
&k:分類番号& \
&t_{ik}: i 番目のデータの k 番目の正解ラベル(教師データ)& \
&y_{ik}:i 番目の入力データの出力のうち k 番目 予測値& \
\end{aligned}
$$

ようやく、冒頭に紹介した多値分類用の交差エントロピー関数が定義できました。これを英語では Categorical Cross Entropy と呼びます

今回はいかがでしたでしょうか

無事、データN件対応版の多値分類用 交差エントロピー を導くことができました。
次回は、 二値分類用の交差エントロピーを導いていきたいと思います。


参考文献
https://blog.qualiteg.com/books/


navigation

Read more

大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第1回 基本概念の理解

大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第1回 基本概念の理解

こんにちは! 今回から数回にわたり Active Directory について解説してまいります。 Active Directory(AD:アクティブディレクトリー)は、Microsoft が開発したディレクトリサービスであり、今日の大企業における IT インフラストラクチャーにおいて、もはやデファクトスタンダードと言っても過言ではない存在となっており、組織内のユーザー、コンピューター、その他のリソースを一元的に管理するための基盤として広く採用されています。 AIセキュリティの現実:単独では機能しない ChatGPTやClaudeなどの生成AIが企業に急速に普及する中、「AIセキュリティ」という言葉が注目を集めています。情報漏洩の防止、不適切な利用の検知、コンプライアンスの確保など、企業が取り組むべき課題は山積みです。 しかし、ここで注意しなければいけない事実があります。それは、 AIセキュリティソリューションは、それ単体では企業環境で限定的な効果しか期待できない ということです。 企業が直面する本質的な課題 AIセキュリティツールを導入する際、企業のIT部門

By Qualiteg コンサルティング
自治体総合フェア2025に出展いたしました

自治体総合フェア2025に出展いたしました

こんにちは! 先週開催された自治体総合フェア2025に出展いたしましたので、写真で様子をふりかえりながら簡単にレポートいたします! 自治体総合フェア2025 開催概要 自治体総合フェアは公民連携の総合展示会で今年はは2025/7/16~18まで東京ビッグサイトにて開催されました。 株式会社 Qualiteg の出展内容 当社からは4名体制でAIアバター動画生成サービス「MotionVox™」をはじめ、LLMセキュリティソリューション「LLM-Audit™」、企業・自治体向けセキュアチャットサービス「Bestllam🄬」の展示をさせていただきました。 デモ内容 当日のご紹介内容の一部をご紹介いたします MotionVox™ MotionVox は、まるで、本物の人間のようなフォトリアリスティックなアバター動画を生成するサービスです。 これまでから機能を大幅拡張した MotionVox 2.0 をお披露目いたしました。 MotionVox 2.0では、以下のようなフィーチャーを追加いたしました! * まるで人間! リアリティをさらに向上したアバター *

By Qualiteg ビジネス開発本部 | マーケティング部
発話音声からリアルなリップシンクを生成する技術 第3回:wav2vec特徴量から口形パラメータへの学習

発話音声からリアルなリップシンクを生成する技術 第3回:wav2vec特徴量から口形パラメータへの学習

こんにちは! 前回までの記事では、 * wav2vecを用いた音声特徴量抽出の仕組み(第1回)と、 * リップシンク制作における累積ドリフトの補正技術(第2回) について解説してきました。今回はいよいよ、これらの技術を統合して実際に音声から口の動きを生成する核心部分に踏み込みます。 本記事で扱うのは、wav2vecが抽出した768次元の音響特徴量を、26個の口形制御パラメータの時系列データに変換する学習プロセスです。これは単なる次元削減ではありません。音の物理的特性を表す高次元ベクトルから、人間の口の動きという全く異なるモダリティへの変換なのです。この変換を実現するには、音韻と視覚的な口形の間にある複雑な対応関係を、ニューラルネットワークに学習させる必要があります。 特に重要なのは、この対応関係が静的ではなく動的であるという点です。同じ音素でも前後の文脈によって口の形が変わり、さらに音が聞こえる前から口が動き始めるという時間的なズレも存在します。これらの複雑な現象をどのようにモデル化し、学習させるのか。本記事では、LSTMとTransformerという2つの強力なアプロー

By Qualiteg 研究部
AI時代のデータ漏洩防止の要諦とテクノロジー:第1回 AI DLPとPROXY

AI時代のデータ漏洩防止の要諦とテクノロジー:第1回 AI DLPとPROXY

こんにちは!本日はAI時代のデータ漏洩防止について、とくにその通信技術面に焦点をあてつつ、AIセキュリティにどのように取り組んでいくべきか、解説いたします。 1. はじめに 生成AIの急速な普及により、企業のデータガバナンスは新たな局面を迎えています。ChatGPTやClaudeといった大規模言語モデル(LLM)は、業務効率を飛躍的に向上させる一方で、意図しない機密情報の漏洩という深刻なリスクをもたらしています。 従業員が何気なく入力した顧客情報や営業秘密が、AIサービスの学習データとして使用される可能性があることを、多くの組織はまだ十分に認識していません。従来のDLP(Data Loss Prevention)ソリューションは、メールやファイル転送を監視することには長けていましたが、リアルタイムで行われるWebベースのAIチャットやAIエージェントとの対話で発生しうる新しい脅威には対応できていないのが現状です。 本記事では、AI時代のデータ漏洩防止において中核となる技術、特にHTTPS通信のインターセプトとその限界について、技術的な観点から詳しく解説します。プロキシサーバー

By Qualiteg プロダクト開発部, Qualiteg コンサルティング