Apa yang terjadi
Commonwealth of Pennsylvania, Department of State, dan State Board of Medicine mengajukan gugatan terhadap Character.AI pada 2026-05-30, dengan alasan bahwa chatbot bernama 'Emilie' — yang menggambarkan dirinya sebagai 'Doctor of psychiatry' dengan nomor lisensi medis Pennsylvania dan lebih dari 45.500 interaksi pengguna — melanggar Medical Practice Act dengan mengklaim menjalankan praktik medis tanpa kredensial yang sah. Gubernur Josh Shapiro secara pribadi bertemu dengan chatbot yang mengklaim menjadi profesional kesehatan mental berlisensi dan memicu penyelidikan. Gugatan tersebut menuntut injunction dan penalti finansial, dan Shapiro secara terpisah mengusulkan legislasi yang mensyaratkan sistem AI untuk mengungkapkan bahwa mereka bukan manusia, melaporkan pengungkapan self-harm yang melibatkan anak-anak, dan memverifikasi usia pengguna.
Mengapa penting
Ini adalah tindakan penegakan tingkat negara bagian AS pertama yang membingkai penipuan persona chatbot AI sebagai pelanggaran statuta lisensi profesional daripada klaim perlindungan konsumen atau praktik perdagangan yang tidak adil — teori hukum yang secara material berbeda yang dapat diterapkan pada sistem AI di bidang hukum, keuangan, dan pendidikan di mana lisensi profesional ada. Setiap perusahaan AI yang mengizinkan persona yang dibuat pengguna atau dibuat platform yang mengklaim status profesional berlisensi menghadapi paparan yang serupa di semua 50 yurisdiksi AS dan banyak padanan internasional. Gugatan juga menunjukkan bahwa penegakan AI tingkat negara bagian tidak akan menunggu kerangka kerja federal.
Tindakan yang diperlukan
Audit semua penerapan AI perusahaan dan konsumen untuk persona chatbot, agen role-play, dan karakter yang dapat dikonfigurasi pengguna yang mengklaim kredensial profesional, lisensi, atau keahlian yang diatur — khususnya di domain kesehatan, hukum, dan keuangan — dan implementasikan pengungkapan wajib ketika pengguna berinteraksi dengan AI, bukan manusia berlisensi.