Now Loading...

Now Loading...

BPTT

BPTT

BPTTは誤差逆伝播法をRNNにおいて適用した学習アルゴリズムです。

ある時刻tにおける誤差はtにおける教師データとの誤差と時刻t+1における隠れ層から伝播してきた誤差の和になります。この手法は全ての時系列データがなければ学習が行えないといった問題点があります。

クイズ

RNN(Recurrent Neural Networks)の学習に関して、最も適切な選択肢を以下の選択肢から1つ選べ。
  • 正解を見る
  • 解説を見る
    1、勾配消失を抑制するためにtanh関数が活性化関数としてよく用いられます。2、RNNでのバックプロパゲーション(誤差逆伝播学習法、Backpropagation)は、時間軸に沿って誤差を反映していくため、BackPropagation Through-Time (BPTT)と呼ばれます。3、RNNは言語データを扱うことができます。4、RNNの学習では中間層の出力を保持しておく必要があります。 (参考: G検定公式テキスト 第2版 第6章 6-4 P238-240) (参考: G検定公式テキスト 第1版 P167-169)

人工知能基礎講座を提供中

人工知能の第一人者である東京大学の松尾豊教授が監修した人工知能基礎講座を受講してみませんか? 人工知能の歴史から自然言語処理、機械学習、深層学習といった最先端のトピックやAIに関わる法律問題まで網羅しているので全てのビジネスパーソン・AIの初学者におすすめです。

サンプル動画

人工知能基礎講座はこちら↓ zero to one G検定 人工知能基礎 jdla

AIエンジニアを目指すならE資格

日本ディープラーニング協会の実施するE資格の受験に必要となるE資格認定プログラムを割引価格で提供中です。最短合格を目指す方向けのスピードパッケージを70,000円で提供中。(一発合格で33,000円のキャッシュバックキャンペーンも実施中です) zero to one E資格 jdla

AI初学者・ビジネスパーソン向けのG検定対策講座

G検定受験前にトレーニングしたい方向けの問題集「G検定実践トレーニング」も提供中です。 zero to one E資格 jdla

関連ワード

ディープラーニングの手法

畳み込みニューラルネットワーク

深層生成モデル

画像認識分野

音声処理と自然言語処理分野

深層強化学習分野

モデルの解釈性とその対応

モデルの軽量化