Now Loading...

Now Loading...

自然言語処理における Pre-trained Models

ディープラーニングの手法 音声処理と自然言語処理分野 自然言語処理における Pre-trained Models

自然言語処理における Pre-trained Models

自然言語処理におけるPre-trained Modelsとは、文脈や単語の意味を理解する学習済みモデルに新たな層を追加し、ファインチューニングを行うことで目的とするモデルを容易に実装する手法を指します。

自然言語処理におけるタスクの目的は翻訳、人間との会話、文章のジャンル分類等多岐にわたりますが全てにおいて文脈の理解が必要になります。そこで、文脈を理解するような学習済みモデルを再利用することで一から学習するよりもコストを削減できます。

クイズ

事前学習済みのネットワークに新たな出力層を付け足し,ネットワーク全体を再び学習することを何というか,最も適切な選択肢を一つ選べ.
  • 正解を見る
  • 解説を見る
    事前学習したモデルを新たなデータセットで再び学習する際,出力層のみを更新することを転移学習,ネットワーク全体を更新することをファインチューニングと言います. (参考:G検定公式テキスト 第2版 第6章 6-1 P215) (参考:G検定公式テキスト 第1版 P124-125)

人工知能基礎講座を提供中

人工知能の第一人者である東京大学の松尾豊教授が監修した人工知能基礎講座を受講してみませんか? 人工知能の歴史から自然言語処理、機械学習、深層学習といった最先端のトピックやAIに関わる法律問題まで網羅しているので全てのビジネスパーソン・AIの初学者におすすめです。

サンプル動画

人工知能基礎講座はこちら↓ zero to one G検定 人工知能基礎 jdla

AIエンジニアを目指すならE資格

日本ディープラーニング協会の実施するE資格の受験に必要となるE資格認定プログラムを割引価格で提供中です。最短合格を目指す方向けのスピードパッケージを70,000円で提供中。(一発合格で33,000円のキャッシュバックキャンペーンも実施中です) zero to one E資格 jdla

AI初学者・ビジネスパーソン向けのG検定対策講座

G検定受験前にトレーニングしたい方向けの問題集「G検定実践トレーニング」も提供中です。 zero to one E資格 jdla

関連ワード

ディープラーニングの手法

畳み込みニューラルネットワーク

深層生成モデル

画像認識分野

音声処理と自然言語処理分野

深層強化学習分野

モデルの解釈性とその対応

モデルの軽量化