Attention
Attention
Attentionはデータの中から予測に役立つ箇所を重み付けして注目する方法で、CNNやRNNの様々なタスクに利用可能です。

👉より体系的に学びたい方は「人工知能基礎」(東京大学松尾豊先生監修)へ
クイズ
以下の文章を読み、空欄(ア)に最もよく当てはまる選択肢を1つ選べ。
(ア)は、系列データであれば予測のためにデータのどこに注目すればいいかを重みづけしていく機構である。
人工知能基礎講座を提供中
人工知能の第一人者である東京大学の松尾豊教授が監修した人工知能基礎講座を受講してみませんか?
人工知能の歴史から自然言語処理、機械学習、深層学習といった最先端のトピックやAIに関わる法律問題まで網羅しているので全てのビジネスパーソン・AIの初学者におすすめです。
サンプル動画
AI初学者・ビジネスパーソン向けのG検定対策講座
zero to oneの「E資格」向け認定プログラム
日本ディープラーニング協会の実施するE資格の受験ならzero to oneの「E資格」向け認定プログラム (税込165,000円) をおすすめします。当講座は、東京大学大学院工学系研究科の松尾豊教授と東北大学大学院情報科学研究科の岡谷貴之教授が監修する実践的なプログラムとなっています。
厚生労働省の教育訓練給付制度対象のE資格認定プログラムの中では最安値※となり、実質負担額49,500円~(支給割合70%の場合)で受講可能です。※2023年弊社調べ
ここでEncoderの出力となる各時刻の隠れ状態には、その時刻に入力された時系列データの要素の特徴が多く含まれていると考えることができます。したがって、各時刻の隠れ状態は、その時刻にEncoderに入力された要素とみなすことができます。ここでこれらの隠れ状態に対する重要度を求めることでAttentionは「過去の入力のどの時点がどれくらいの影響を持っているか」を直接的に求めていると考えられます。
(参考: G検定公式テキスト 第2版 第6章 6-4 P244-246)
(参考:G検定公式テキスト 第1版 P173)
