Now Loading...

Now Loading...

モデルの解釈

モデルの解釈

AIを実世界に用いる上で、モデルの解釈性は重要な問題です。

AIは一般的にブラックボックスであり、予測の根拠を人間に分かるように説明することを苦手とします。例えば、医療や司法等の判断にAIを用いることを考えると、何故結論に至ったかを説明できなければ受け入れてもらえないかもしれません。

クイズ

以下の文章を読み、空欄(ア)に最もよく当てはまる選択肢を1つ選べ。 ディープラーニングなどのモデルでは、予測結果に至った過程や根拠がわからないという問題があり、このように中身が説明できない場合、社会の中では信頼して使うことが難しい。このような背景から、近年XAI(Explainable AI)の研究が注目されている。XAIは説明可能なAIという意味であり、例えば(ア)といった、予測過程や根拠を提示できるモデル、およびその研究である。
  • 正解を見る
  • 解説を見る
    ディープラーニングなどのモデルでは、データを入力すると自動で結果を出すため、中身がブラックボックスと言われます。その中身、すなわち予測結果に至った過程、根拠を提示できるようにするのがXAIです。他の選択肢はモデルを作成するときに人が設定するものであり、ブラックボックスではありません。

特別割引クーポンのお知らせ

zero to one G検定 jdla

上記バナーをクリックすると割引クーポンが適用されます。商品の詳細については <こちら> でご確認の上、ご購入ください。

zero to one G検定 jdla

上記バナーをクリックすると割引クーポンが適用されます。商品の詳細については <こちら> でご確認の上、ご購入ください。

関連ワード

ディープラーニングの手法

畳み込みニューラルネットワーク

深層生成モデル

画像認識分野

音声処理と自然言語処理分野

深層強化学習分野

モデルの解釈性とその対応

モデルの軽量化