ADAM
ADAM
ADAMはモーメンタムとRMSpropを混合させたような最適化アルゴリズムです。
パラメータの更新式は画像に示す通りであり、mはモーメンタムに用いられているような速度に関する項、vはRMSpropに用いられている勾配の二乗和に関する項です。これによって勾配の小さい方向にもスムーズに更新が可能で、少なくとも学習が進むため、最初に試す場合により適しています。

クイズ
SGD(確率的勾配降下法)よりも効率的な最適化手法として,多くのアルゴリズムが考えられている.学習率の減衰とモーメンタムの考え方を組み合わせた手法として,最も適切な選択肢を一つ選べ.
人工知能基礎講座を提供中
人工知能の第一人者である東京大学の松尾豊教授が監修した人工知能基礎講座を受講してみませんか?
人工知能の歴史から自然言語処理、機械学習、深層学習といった最先端のトピックやAIに関わる法律問題まで網羅しているので全てのビジネスパーソン・AIの初学者におすすめです。
サンプル動画
AIエンジニアを目指すならE資格
AI初学者・ビジネスパーソン向けのG検定対策講座
