最近の生成系AIは高度な画像や動画を作ることができるようになり、AI以外の人間によって作られた画像や、動画と区別がつきにくいほど高度なものまで作られるようになりました。それにより事実とは異なるフェイク画像や動画が作られ、誤情報が拡散される可能性があります。

　また、上記のような悪意のあるフェイク動画や画像以外にもAIが誤情報を生成し人が気づかず、拡散させられてしまう可能性もあります。(ハルシネーション)

　このような誤情報の拡散は選挙などの活動、個人の名誉毀損など様々な問題を引き起こします。生成系AIの利用や運用の仕方を法律で規制するなど法律での規制は必要でしょう。また、情報が正しいかを見極めるための知識をある程度持っている必要があるでしょう。