정의
AI 시스템이 실제로는 잘못된 내용을 확신을 가지고 진술할 때 — 존재하지 않는 이름, 인용, 법적 사건, 통계 또는 기타 세부 사항을 꾸며낼 때를 말한다. 이는 결함이 아니라 현재 AI 언어 모델이 작동하는 방식의 구조적 특성이다: 이들은 반드시 참인 텍스트가 아니라 그럴듯해 보이는 텍스트를 예측한다.
왜 중요한가
환각(Hallucinations)은 이미 실제 법적, 평판적 피해를 입혔다 — 법원들은 AI가 꾸민 판례 인용을 제출한 변호사들을 제재했다. 여러 관할권의 규제 당국들은 이제 AI 정확성과 공개에 관한 의무를 공식화하고 있으며, 특히 높은 위험도의 결정에 대해 그러하다.