Apa yang terjadi
Jaksa Agung Kentucky Russell Coleman mengajukan gugatan terhadap Character Technologies Inc. (Character.AI) pada awal 2026, menandai tindakan penegakan hukum negara bagian pertama yang secara khusus menargetkan layanan chatbot AI. Keluhan tersebut menyatakan bahwa Character.AI melanggar hukum perlindungan konsumen dan privasi negara bagian dengan mengekspos anak-anak di bawah umur terhadap bahaya melalui perlindungan yang tidak memadai, misrepresentasi layanan sebagai aman untuk anak-anak, dan gagal mengungkapkan bahwa chatbot dapat meyakinkan pengguna bahwa mereka adalah nyata. Kasus ini, yang mengikuti dua bunuh diri remaja yang terkait dengan platform, mencari bantuan injungtif, penalti sipil, dan perampasan keuntungan. Pennsylvania mengajukan tindakan terpisah pada 1 Mei 2026, menuduh chatbot Character.AI secara ilegal menyamar sebagai psikiater berlisensi.
Mengapa penting
Kasus ini menetapkan template untuk penegakan AI tingkat negara bagian di seluruh negara. Teori hukum keluhan Kentucky—kelalaian material, misrepresentasi kepada orang tua, kegagalan mengungkapkan keterbatasan AI, dan age-gating yang tidak memadai—dapat ditransfer ke statuta perlindungan konsumen negara bagian lainnya. Setelah surat dari 44 AG negara bagian pada Agustus 2025 dan 42 AG pada Desember 2025 memperingatkan perusahaan AI tentang pelanggaran keselamatan anak, tindakan ini menunjukkan bahwa negara bagian bergerak melampaui surat menjadi litigasi. Bagi penyedia chatbot AI dan perusahaan yang menerapkan conversational AI kepada konsumen, kasus ini menggarisbawahi eksposur di bawah hukum perlindungan konsumen, privasi, dan keselamatan anak yang ada, terlepas dari undang-undang khusus AI.
Tindakan yang diperlukan
Audit implementasi chatbot AI yang menghadap konsumen untuk: (1) kecukupan penafian tentang keterbatasan AI dan fiksi vs. kenyataan, (2) efektivitas verifikasi usia dan penyaringan konten, (3) klaim pemasaran tentang keamanan atau kesesuaian usia, dan (4) pengungkapan keadaan di mana chatbot dapat menyatakan identitas palsu atau kredensial. Perusahaan yang menggunakan platform chatbot pihak ketiga (misalnya Character.AI, Replika, Snapchat My AI) harus meninjau kontrak vendor untuk klausa ganti rugi dan menilai risiko reputasi dari asosiasi dengan platform yang sedang diawasi oleh AG negara bagian.