Apa yang terjadi
Pada 11 Juni 2026, Kantor Komisioner Privasi Kanada (OPC) menerbitkan Temuan PIPEDA #2026-004. OPC menemukan bahwa X Corp. (operator platform X) dan X.AI LLC (pengembang chatbot Grok) melanggar PIPEDA dengan gagal memperoleh persetujuan sah dari individu-individu yang informasi pribadi mereka dikumpulkan, digunakan, dan diungkapkan untuk membuat deepfake eksplisit dan terseksualkan melalui layanan generasi gambar Grok. Penyelidikan yang dimulai oleh Komisioner diluncurkan pada 15 Januari 2026. OPC menemukan bahwa tujuannya — mengaktifkan generasi deepfake terseksualkan — tidak akan dianggap tepat oleh orang yang wajar, terlepas dari persetujuan. Selama penyelidikan, X dan xAI memperkenalkan perlindungan baru untuk mengurangi risiko penyalahgunaan deepfake dan penelusuran proaktif untuk mendeteksi/menghapus konten berbahaya. OPC akan terus memantau implementasinya.
Mengapa penting
Ini adalah temuan penegakan privasi Kanada utama pertama yang secara langsung menargetkan kemampuan generasi gambar AI. Ini menetapkan bahwa di bawah PIPEDA: (1) persetujuan tidak dapat melegalkan pengumpulan/penggunaan data pribadi untuk menghasilkan deepfake terseksualkan; (2) uji kesesuaian 'orang yang wajar' berlaku untuk kasus penggunaan AI itu sendiri, bukan hanya mekanika persetujuan. Ini menciptakan preseden kepatuhan yang mengikat untuk semua layanan generasi gambar AI yang beroperasi di Kanada, dan menandakan bagaimana komisioner privasi secara global dapat mendekati konten intim yang dihasilkan AI.
Tindakan yang diperlukan
Operator layanan generasi gambar/video AI dengan pengguna Kanada harus: (1) menilai apakah layanan mereka dapat menghasilkan konten intim atau terseksualkan; (2) menerapkan perlindungan teknis untuk mencegah generasi tersebut; (3) meninjau kerangka persetujuan — persetujuan saja tidak cukup jika penggunaan secara inheren tidak tepat di bawah PIPEDA. Implementasikan sistem deteksi dan penghapusan proaktif untuk konten AI yang dihasilkan yang berbahaya.