Now Loading...

Now Loading...

鞍点

鞍点

鞍点とはある次元から見ると極小とみえ、他の次元から見ると極大となるものを指します。

機械学習において誤差関数に鞍点が生じてしまうと、実際の最小値には到達していないにもかかわらず、勾配が0となってしまうため学習が止まってしまうという問題が生じてしまいます。

クイズ

以下の文章を読み、空欄(ア)に最もよく当てはまる選択肢を1つ選べ。 ニューラルネットワークの学習には様々な問題が発生する。例えば、パラメータ空間が複雑になると空間内の局所解や(ア)といった停留点で学習が停滞する等がある。
  • 正解を見る
  • 解説を見る
    ある次元から見れば極小だが,別の次元から見ると極大となっている点を鞍点といいます.ディープラーニングではパラメータの次元が多くくなるため鞍点が発生する確率も高く,学習を進める方向を考えることも重要であり,モーメンタムを初めとして効率的な最適化手法が多く提案されています. (参考: G検定公式テキスト 第2版 第5章 5-5 P182) (参考: G検定公式テキスト 第1版 P118- 119, 148)

特別割引クーポンのお知らせ

zero to one G検定 jdla

上記バナーをクリックすると割引クーポンが適用されます。商品の詳細については <こちら> でご確認の上、ご購入ください。

zero to one G検定 jdla

上記バナーをクリックすると割引クーポンが適用されます。商品の詳細については <こちら> でご確認の上、ご購入ください。