モデル窃取とは、AIモデルに多数の入力を与えてその出力（ラベルや信頼スコア）を観察し、モデルの内部構造や挙動を模倣・推測する攻撃手法です。 

とくにクラウド上で提供されるAI APIでは、モデルが公開されていなくても、繰り返しのアクセスにより機能が盗用され、模倣サービスや知財侵害につながるおそれがあります。これにより企業の競争力やビジネスモデルが損なわれるリスクがあります。 対策としては、出力の制限、アクセスの監視、異常検知などがあり、AIモデルの知的財産保護と安全な社会実装のために、AIガバナンスの一環として重要視されています。