モデルの解釈

モデルの解釈とは、モデルの予測や判断の根拠を特定することです。

ディープラーニングは非常に汎用性が高く、様々な分野で活用されていますが、その中身はブラックボックスになっているという弱点があります。医療等の分野では判断の根拠が説明できなければ実用化に至りづらいため、予測の根拠を可視化するGrad-CAMのようなXAI(Explainable AI。説明が可能なAI)の研究が行われています。

👉より体系的に学びたい方は「人工知能基礎」（東京大学松尾豊先生監修）へ

クイズ

以下の文章を読み、空欄（ア）に最もよく当てはまる選択肢を1つ選べ。ディープラーニングなどのモデルでは、予測結果に至った過程や根拠がわからないという問題があり、このように中身が説明できない場合、社会の中では信頼して使うことが難しい。このような背景から、近年XAI（Explainable AI）の研究が注目されている。XAIは説明可能なAIという意味であり、例えば（ア）といった、予測過程や根拠を提示できるモデル、およびその研究である。

どのデータが重要だったか
どのライブラリを使ったか
ハイパーパラメータ
使われている損失関数や活性化関数

正解を見る

解説を見る
ディープラーニングなどのモデルでは、データを入力すると自動で結果を出すため、中身がブラックボックスと言われます。その中身、すなわち予測結果に至った過程、根拠を提示できるようにするのがXAIです。他の選択肢はモデルを作成するときに人が設定するものであり、ブラックボックスではありません。
👉G検定の受験対策は約1,000問収録の「G検定実践トレーニング」へ

人工知能基礎講座を提供中

人工知能の第一人者である東京大学の松尾豊教授が監修した人工知能基礎講座を受講してみませんか？人工知能の歴史から自然言語処理、機械学習、深層学習といった最先端のトピックやAIに関わる法律問題まで網羅しているので全てのビジネスパーソン・AIの初学者におすすめです。

サンプル動画

人工知能基礎講座はこちら↓

AI初学者・ビジネスパーソン向けのG検定対策講座

G検定受験前にトレーニングしたい方向けの問題集「G検定実践トレーニング」も提供中です。

zero to oneの「E資格」向け認定プログラム

日本ディープラーニング協会の実施するE資格の受験ならzero to oneの「E資格」向け認定プログラム (税込165,000円) をおすすめします。当講座は、東京大学大学院工学系研究科の松尾豊教授と東北大学大学院情報科学研究科の岡谷貴之教授が監修する実践的なプログラムとなっています。厚生労働省の教育訓練給付制度対象のE資格認定プログラムの中では最安値※となり、実質負担額49,500円～(支給割合70%の場合)で受講可能です。※2023年弊社調べ

G検定（AI・機械学習）用語集トップ

＜体験型＞学習ブログ

モデルの解釈