Now Loading...

Now Loading...

モデルの解釈

モデルの解釈とは、モデルの予測や判断の根拠を特定することです。

ディープラーニングは非常に汎用性が高く、様々な分野で活用されていますが、その中身はブラックボックスになっているという弱点があります。医療等の分野では判断の根拠が説明できなければ実用化に至りづらいため、予測の根拠を可視化するGrad-CAMのようなXAI(Explainable AI。説明が可能なAI)の研究が行われています。

クイズ

以下の文章を読み、空欄(ア)に最もよく当てはまる選択肢を1つ選べ。 ディープラーニングなどのモデルでは、予測結果に至った過程や根拠がわからないという問題があり、このように中身が説明できない場合、社会の中では信頼して使うことが難しい。このような背景から、近年XAI(Explainable AI)の研究が注目されている。XAIは説明可能なAIという意味であり、例えば(ア)といった、予測過程や根拠を提示できるモデル、およびその研究である。
  • 正解を見る
  • 解説を見る
    ディープラーニングなどのモデルでは、データを入力すると自動で結果を出すため、中身がブラックボックスと言われます。その中身、すなわち予測結果に至った過程、根拠を提示できるようにするのがXAIです。他の選択肢はモデルを作成するときに人が設定するものであり、ブラックボックスではありません。

<個人向け>G検定&E資格オンライン講座の紹介

関連ワード

機械学習の具体的手法

教師あり学習

教師なし学習

強化学習

モデルの評価