BPTT

BPTTは誤差逆伝播法をRNNにおいて適用した学習アルゴリズムです。

ある時刻tにおける誤差はtにおける教師データとの誤差と時刻t+1における隠れ層から伝播してきた誤差の和になります。この手法は全ての時系列データがなければ学習が行えないといった問題点があります。

👉より体系的に学びたい方は「人工知能基礎」（東京大学松尾豊先生監修）へ

クイズ

RNN（Recurrent Neural Networks）の学習に関して､最も適切な選択肢を以下の選択肢から1つ選べ。

RNNの隠れ層では勾配消失問題を抑制するためステップ関数がよく用いられる
時系列を遡るBPTT法を用いることで系列データを扱えるようにしている
RNNは音声データを学習できるが、言語データは勾配爆発が起こるため学習できない
BPTT法でRNNの誤差逆伝播を行うためには中間層の出力を保存しておく必要がない

正解を見る

解説を見る
１、勾配消失を抑制するためにtanh関数が活性化関数としてよく用いられます。２、RNNでのバックプロパゲーション（誤差逆伝播学習法、Backpropagation）は、時間軸に沿って誤差を反映していくため、BackPropagation Through-Time (BPTT)と呼ばれます。3、RNNは言語データを扱うことができます。4、RNNの学習では中間層の出力を保持しておく必要があります。（参考: G検定公式テキスト第2版第6章 6-4 P238-240) （参考: G検定公式テキスト第1版 P167-169）
👉G検定の受験対策は約1,000問収録の「G検定実践トレーニング」へ

G検定（AI・機械学習）用語集トップ

人工知能基礎講座を提供中

人工知能の第一人者である東京大学の松尾豊教授が監修した人工知能基礎講座を受講してみませんか？人工知能の歴史から自然言語処理、機械学習、深層学習といった最先端のトピックやAIに関わる法律問題まで網羅しているので全てのビジネスパーソン・AIの初学者におすすめです。

サンプル動画

人工知能基礎講座はこちら↓

AI初学者・ビジネスパーソン向けのG検定対策講座

G検定受験前にトレーニングしたい方向けの問題集「G検定実践トレーニング」も提供中です。

zero to oneの「E資格」向け認定プログラム

日本ディープラーニング協会の実施するE資格の受験ならzero to oneの「E資格」向け認定プログラム (税込165,000円) をおすすめします。当講座は、東京大学大学院工学系研究科の松尾豊教授と東北大学大学院情報科学研究科の岡谷貴之教授が監修する実践的なプログラムとなっています。厚生労働省の教育訓練給付制度対象のE資格認定プログラムの中では最安値※となり、実質負担額49,500円～(支給割合70%の場合)で受講可能です。※2023年弊社調べ

G検定（AI・機械学習）用語集トップ