生成系AIの発展は様々な分野に利益をもたらしますが、同時に不利益やリスクももたらします。

　現在、画像はすでに本物の画像と区別がつきにくいほど高度に生成することができます。また、動画も高度に作ることができるようになりつつあります。このような技術を利用して虚偽の内容を含む画像や動画を簡単に作ることができてしまいます。このように作成された画像や動画を利用し、虚偽の情報が拡散される可能性があります。

　また、AIが作成したものの責任の所在がはっきりしていないという問題があります。著作権に触れるものや、過激な内容、倫理的に不適切なものを作り、販売、拡散することもできてしまいます。このようなものに対して明確に規制できる法律を整備する必要があります。