Now Loading...

Now Loading...

ドロップアウト

ドロップアウトとは、ニューラルネットワークの学習時にノードをランダムで不活性にする手法です。不活性になるノードはミニバッチごとにランダムに変化します。

ディープラーニングはパラメータ数が多いためにモデルが過剰にデータセットに適合する過学習が起こりやすいという課題を抱えていますが、ドロップアウトを用いることである程度抑制することが可能です。

クイズ

以下の文章を読み、空欄(ア)に最もよく当てはまる選択肢を1つ選べ。 高い表現力を持つニューラルネットワークは訓練データでの正解率のみ高くなってしまい、汎用性がなくなってしまう過学習を起こしやすいという性質をもっている。現在、過学習のさまざまな対策が提案されている。例えば、学習の際に一部のノードを無効にする(ア)がある。
  • 正解を見る
  • 解説を見る
    1、ランダムにニューロンを除外する、つまりドロップアウトさせる手法です。 上記ような処理を繰り返すことで複数のモデルができるため、ドロップアウトは部分ネットワークのアンサンブル学習として考えることができます。 (参考: G検定公式テキスト 第2版 第5章 5-6 P184-185) (参考: G検定公式テキスト 第1版 P149)

<個人向け>G検定&E資格オンライン講座の紹介