モーメンタム
モーメンタム
モーメンタムとは1990年代に提唱された、プラトーと呼ばれる鞍点における停留状態から脱出することを目的とする、最適化の進行方向に学習を加速させる手法です。
鞍点まわりでは勾配は0ではないので加速させることによって鞍点からの脱出が可能です。

クイズ
以下の文章を読み,空欄(ア) ~(イ)の組み合わせに最もよく当てはまる選択肢を1つ選べ.
勾配降下法では最適解ではない極小解に陥ってしまい抜け出せなくなることを回避する必要がある。勾配降下法の手法である (ア) は前回の勾配を考慮しパラメータの更新式に速度項を加えた手法である. (イ) は(ア)を改良したものと言われ、更新後のパラメータの近似値を用いる。
人工知能基礎講座を提供中
人工知能の第一人者である東京大学の松尾豊教授が監修した人工知能基礎講座を受講してみませんか?
人工知能の歴史から自然言語処理、機械学習、深層学習といった最先端のトピックやAIに関わる法律問題まで網羅しているので全てのビジネスパーソン・AIの初学者におすすめです。
サンプル動画
AIエンジニアを目指すならE資格
AI初学者・ビジネスパーソン向けのG検定対策講座
