ハルシネーション
ハルシネーションとは、LLM（生成AI）が事実とは違うことを、もっともらしく言い切ってしまう現象。「AIの幻覚」と訳され、ビジネス利用での最大のリスクとして対策が研究されています。
ハルシネーション
ひと言で: AIが堂々と「嘘」をつく現象のことです。
ハルシネーションとは
ハルシネーション（Hallucination、幻覚）は、LLMが 存在しない事実・架空の引用・誤った数値 などを、あたかも真実であるかのように生成してしまう現象です。LLMは「次の単語を確率的に予測する」仕組みのため、本質的に事実かどうかを判定する能力を持たず、訓練データに似たパターンが見当たらない領域では「それっぽい嘘」を作り出してしまいます。
代表的なハルシネーション:
- 存在しない論文や本のタイトルを作り出す
- 実在の人物に架空のエピソードを付け加える
- コードでは実在しない関数を呼び出す
なぜ重要か
医療・法律・金融などYMYL分野でハルシネーションが発生すると深刻な被害につながります。対策として RAGによるグラウンディング、出典付き回答、ファクトチェックレイヤー などが業界標準になりつつあります。LLMO観点では「自社が正確な事実情報の供給源になる」ことで、AIに引用される確率が上がります。
例・具体例
- ChatGPTに「夏目漱石の代表作を10個挙げて」 → 実在する5作 + 架空の5作を混ぜて返すケース
- Bingが「○○判決の概要」を聞かれて、実在しない判決を作り出した事例（実例あり）
初心者向けまとめ
- ハルシネーション = AIの幻覚（=嘘）
- LLMの仕組み上、原理的に発生する
- RAG・出典明示で軽減可能
関連用語
もっと詳しく
関連用語
- AI Overview（AIオーバービュー）
AI Overviewとは、Google検索結果の最上部にAI（Gemini）が要約回答を表示する機能。2024年5月から米国で本格導入され、2024年8月以降日本を含む各国に拡大。SEO/LLMOの最重要トピックです。
- AEO（Answer Engine Optimization）
AEOとは「Answer Engine Optimization（回答エンジン最適化）」の略。フィーチャードスニペット・音声検索・AI回答など、ユーザーの質問に直接答える形式の検索結果に最適化する取り組みです。
- SGE（Search Generative Experience）
SGEとは「Search Generative Experience（検索生成体験）」の略で、Googleが2023年に発表した生成AI検索の実験名。2024年5月にAI Overviewへリブランドされ、現在はSGE = AI Overviewと考えてOKです。
- LLM（大規模言語モデル）
LLMとは「Large Language Model（大規模言語モデル）」の略で、膨大なテキストデータで学習された巨大なAIモデル。ChatGPT、Gemini、Claudeなどの中身がLLMで、現代の生成AIの中核技術です。