現在最も利用されているAIの多くのモデルでDeep Learningが用いられており、莫大な数のパラメータが存在します。そのため、その入力と出力の関係がブラックボックス化されてしまい、過程を理解することが非常に難しいという問題があります。特に医療などで用いられる場合にその問題が影響することは想像つくかと思います。そのため、AIの出力の過程をできるだけ透明化しようとしています。

　透明化する手法はいくつか提案されており、重要な特徴量を判定する SHAP(Shapley Additive Explanations) や LIME(Local Interpretable Model-agnostic Explanations)などがあります。しかし、完全に透明化することは難しく、技術的な進歩に加えて、倫理的なガイドラインの確立やユーザーとの対話が重要です。