Now Loading...

Now Loading...

鞍点

鞍点

鞍点とはある次元から見ると極小とみえ、他の次元から見ると極大となるものを指します。

機械学習において誤差関数に鞍点が生じてしまうと、実際の最小値には到達していないにもかかわらず、勾配が0となってしまうため学習が止まってしまうという問題が生じてしまいます。

クイズ

以下の文章を読み、空欄(ア)に最もよく当てはまる選択肢を1つ選べ。 ニューラルネットワークの学習には様々な問題が発生する。例えば、パラメータ空間が複雑になると空間内の局所解や(ア)といった停留点で学習が停滞する等がある。
  • 正解を見る
  • 解説を見る
    ある次元から見れば極小だが,別の次元から見ると極大となっている点を鞍点といいます.ディープラーニングではパラメータの次元が多くくなるため鞍点が発生する確率も高く,学習を進める方向を考えることも重要であり,モーメンタムを初めとして効率的な最適化手法が多く提案されています. (参考: G検定公式テキスト 第2版 第5章 5-5 P182) (参考: G検定公式テキスト 第1版 P118- 119, 148)

人工知能基礎講座を提供中

人工知能の第一人者である東京大学の松尾豊教授が監修した人工知能基礎講座を受講してみませんか? 人工知能の歴史から自然言語処理、機械学習、深層学習といった最先端のトピックやAIに関わる法律問題まで網羅しているので全てのビジネスパーソン・AIの初学者におすすめです。

サンプル動画

人工知能基礎講座はこちら↓ zero to one G検定 人工知能基礎 jdla

AIエンジニアを目指すならE資格

日本ディープラーニング協会の実施するE資格の受験に必要となるE資格認定プログラムを割引価格で提供中です。最短合格を目指す方向けのスピードパッケージを70,000円で提供中。(一発合格で33,000円のキャッシュバックキャンペーンも実施中です) zero to one E資格 jdla

AI初学者・ビジネスパーソン向けのG検定対策講座

G検定受験前にトレーニングしたい方向けの問題集「G検定実践トレーニング」も提供中です。 zero to one E資格 jdla