人間の関与とは、AIシステムの判断や動作に対して、人間が監督・介入できる体制を整えることを指します。AIは学習データに基づき自律的に最適化されますが、必ずしも人の価値観と一致するとは限らず、誤った判断を避けるために人間の確認が不可欠です。

特に医療や金融、司法、行政など、社会的影響が大きい分野では、人がAIの出力に対して最終的な判断を下せる仕組みによって、安全性・透明性・説明可能性が確保されます。また、こうした体制は責任の所在を明確にするためにも、AIガバナンスの視点から重要です。