定義
AIシステムが、実在しない名前、引用文献、法的事件、統計、またはその他の詳細を作り出し、確信を持って事実に反することを述べる場合。これはグリッチではなく、現在のAI言語モデルがどのように機能するかの構造的特性である：それらは必ずしも真実のテキストではなく、もっともらしく聞こえるテキストを予測する。
なぜ重要か
ハルシネーションはすでに実際の法的および評判上の害をもたらしている — 裁判所はAIが作り出した事件の引用文献を提出した弁護士に制裁を下している。複数の司法管轄区域の規制当局は、特に高いリスクの決定について、AI精度と開示に関する義務を形式化している。