プライバシーは、個人に関する情報が適切に保護され、不当な収集や使用から守られることを指します。

生成AIに関しては、データがどのように収集され学習に用いられているのか、データに対する不正アクセスや漏洩の対策がなされているのか、などがプライバシーに関わってくる重要な要素となります。また、個人が自分のデータをコントロールし、必要に応じてどの情報を生成AIに与えるのかを選択できるようなデザインが求められます。

生成AIは生成するために個人データを取り扱うことが多いため、これらにおける法的な規制を遵守することが必要となってきます。