ハルシネーションは、AI（特にLLM）が、もっともらしく見える誤情報や誤ったコードを自信ありげに出してしまう現象です。英語の hallucination（幻覚）から来ています。 自然な文章・整ったコードの形で出てくるため、見た目では見抜けないのが厄介な点です。
なぜ起きるか
LLM の本質は「次のトークン予測」で、「知らない」と答える仕組みが本来備わっていません。学習データに無い・曖昧な領域でも、それらしい続きを生成してしまいます。 つまりハルシネーションは「嘘をつく」のではなく「自然に続けた結果として誤る」現象で、モデルの故障ではなく構造上の性質です。完全にゼロにはできない前提で運用を設計します。
セキュリティの分野でも、OWASP の LLMアプリケーション Top 10（2025年版）が Misinformation（誤情報）を主要リスクの1つとして挙げています。
実際に起きること
- 存在しない関数・設定値・コマンドオプションを出してくる
- ライブラリの使い方を古いバージョンの記憶で説明する
- 存在しない論文・URL・判例を「出典」として挙げる
- 仕様にない処理を勝手に補って実装する
減らす方法（ゼロにはできない）
- 出典を要求する … 「根拠のURLを添えて」と指示し、その出典を人が開いて確認する
- RAG で足場を与える … 正しい文書を検索して読ませ、「この資料の範囲で答えて」と制約する
- 機械で検証できる形にする … コードならテストと静的解析を通す。「動く/動かない」で判定できるものは人間の目より確実
- 公式ドキュメントで裏を取る … 時点依存の情報（バージョン・料金・仕様）は特に
近い用語との違い
- プロンプトインジェクション … 誤りの原因が外部からの細工。ハルシネーションはモデル内部から自然に生じる
- 誤情報（misinformation） … 結果の呼び名。ハルシネーションはAIがそれを生む仕組み側の言葉
AI の出力は文章でもコードでも「完成品」ではなく「たたき台」として扱う——これが実務での最短の安全策です。