ハルシネーション(Hallucination)とはAIが事実に基づかない誤った情報をあたかも正しいかのように出力する現象を指します。AIが幻覚(Hallucination)を見ているかのような挙動であることからこのように呼ばれています。

　ハルシネーションはユーザーが知識がない場合や、どのデータを用いたものかという情報がわからないと嘘だと見抜くことが難しいことから問題となっています。ハルシネーションが起こる理由はデータの不足や偏り、モデルの過学習により特定の領域に過剰に適合していること、LLMのアーキテクチャ、ドメインの違いなどが挙げられます。そのため、学習に使うデータの質を上げることや学習のプロセスを改善することで解決を試みますが、完全に取り除くのは難しいです。