確率的勾配降下法
確率的勾配降下法
確率的勾配降下法とは、最急降下法の一種で、ランダムなデータ一つのみで勾配を求め、パラメータの更新をしていく作業をデータの数だけ行う方法です。
最急降下法では全てのデータを毎回使用するため、局所解に陥ってしまう可能性がありましたが、確率的勾配降下法では一度局所解に陥ってしまっても次のデータはランダムであるため、脱出が可能であるという利点があります。また、一つのみの損失を考慮するため、計算量も少なく済みます。

クイズ
以下の文章を読み、空欄(ア)に最もよく当てはまる選択肢を1つ選べ。
深層学習や機械学習では訓練データの中からランダムに取り出した一部のデータのみを学習に用いるという手法がしばしば使われる。また、この過程は繰り返され、 その度にサンプリングが新たにランダムに行われる。 このような手法は(ア)と呼ばれる。
(参考: JDLA推薦図書「深層学習」 P23 – 27」)
人工知能基礎講座を提供中
人工知能の第一人者である東京大学の松尾豊教授が監修した人工知能基礎講座を受講してみませんか?
人工知能の歴史から自然言語処理、機械学習、深層学習といった最先端のトピックやAIに関わる法律問題まで網羅しているので全てのビジネスパーソン・AIの初学者におすすめです。
サンプル動画
AIエンジニアを目指すならE資格
AI初学者・ビジネスパーソン向けのG検定対策講座
