生成系AIの技術が発展し生活やビジネスで多くの利益が生まれています。一方、利益と同時に悪用することによって不利益を生じる可能性もあり、このようなリスクが問題となります。

　例えば、AIは倫理に基づいて動き、差別的な内容や危害を与える可能性のある出力を排除するように作られいますが、システムを改変することで倫理的な規範から外れた出力をするジェイルブレイク(脱獄)したAIが問題となっています。

　他には、Worm GPTと呼ばれる犯罪に使うためのLLMが作られています。悪意のある回答を防ぐシステムがなく、現在使われているChat GPTのように高度な文章などを生成することができるため、フィルターを容易にすり抜ける詐欺メールやスパムメールなどを作成します。

　生成系AIは多くの利益をもたらしますが、このようなサイバー攻撃を行うためにAIが用いられてしまっているという事実もあります。