交差エントロピー

交差エントロピーは誤差関数のうち、最もよく使用される関数の一つです。

この交差エントロピーは真の確率分布と推定した確率分布の対数の積の和で表されその値の符号を逆にしたものになります。この交差エントロピーも通常の誤差関数と同様に最適化を行う上ではこの関数を最小にするようにする必要があります。

クイズ

２つの確率分布の間に定義され、分布が似ていれば似ている程小さくなる尺度として最も適切な選択肢を一つ選べ。

解説を見る
交差エントロピーは二つの確率分布が近いほど値が0に近づき、遠いほど値が大きくなります。機械学習においては交差エントロピーが分類問題の損失関数に用いられることがあります。

人工知能基礎講座を提供中

人工知能の第一人者である東京大学の松尾豊教授が監修した人工知能基礎講座を受講してみませんか？人工知能の歴史から自然言語処理、機械学習、深層学習といった最先端のトピックやAIに関わる法律問題まで網羅しているので全てのビジネスパーソン・AIの初学者におすすめです。

人工知能基礎講座はこちら↓

日本ディープラーニング協会の実施するE資格の受験に必要となるE資格認定プログラムを割引価格で提供中です。最短合格を目指す方向けのスピードパッケージを70,000円で提供中。（一発合格で33,000円のキャッシュバックキャンペーンも実施中です）

G検定受験前にトレーニングしたい方向けの問題集「G検定実践トレーニング」も提供中です。