Definisi
Ketika sistem AI dengan percaya diri menyatakan sesuatu yang faktanya salah — mengada-adakan nama, kutipan, kasus hukum, statistik, atau detail lain yang tidak ada. Ini bukan gangguan tetapi merupakan sifat struktural dari cara kerja model bahasa AI saat ini: mereka memprediksi teks yang terdengar masuk akal, bukan teks yang harus benar.
Mengapa penting
Halusinasi telah menyebabkan kerugian hukum dan reputasi yang nyata — pengadilan telah menghukum pengacara karena mengajukan kutipan kasus yang diada-adakan AI. Regulator di berbagai yurisdiksi kini memformalkan kewajiban mengenai akurasi AI dan pengungkapan, khususnya untuk keputusan yang berisiko tinggi.