鞍点

鞍点とはある次元から見ると極小とみえ、他の次元から見ると極大となるものを指します。

機械学習において誤差関数に鞍点が生じてしまうと、実際の最小値には到達していないにもかかわらず、勾配が0となってしまうため学習が止まってしまうという問題が生じてしまいます。

クイズ

以下の文章を読み､空欄（ア）に最もよく当てはまる選択肢を1つ選べ｡ニューラルネットワークの学習には様々な問題が発生する。例えば、パラメータ空間が複雑になると空間内の局所解や（ア）といった停留点で学習が停滞する等がある。

解説を見る
ある次元から見れば極小だが，別の次元から見ると極大となっている点を鞍点といいます．ディープラーニングではパラメータの次元が多くくなるため鞍点が発生する確率も高く，学習を進める方向を考えることも重要であり，モーメンタムを初めとして効率的な最適化手法が多く提案されています．（参考: G検定公式テキスト第2版第5章 5-5 P182) （参考: G検定公式テキスト第1版 P118- 119, 148）

人工知能基礎講座を提供中

人工知能の第一人者である東京大学の松尾豊教授が監修した人工知能基礎講座を受講してみませんか？人工知能の歴史から自然言語処理、機械学習、深層学習といった最先端のトピックやAIに関わる法律問題まで網羅しているので全てのビジネスパーソン・AIの初学者におすすめです。

人工知能基礎講座はこちら↓

日本ディープラーニング協会の実施するE資格の受験に必要となるE資格認定プログラムを割引価格で提供中です。最短合格を目指す方向けのスピードパッケージを70,000円で提供中。（一発合格で33,000円のキャッシュバックキャンペーンも実施中です）

G検定受験前にトレーニングしたい方向けの問題集「G検定実践トレーニング」も提供中です。