Apa yang terjadi
Federal Trade Commission mengumumkan detail penegakan untuk Take It Down Act, yang mengharuskan situs web dan layanan online untuk menghapus citra intim tanpa persetujuan dan deepfake yang dihasilkan AI dalam waktu 48 jam setelah pemberitahuan korban mulai 19 Mei 2026. FTC menetapkan denda sipil maksimal $53,088 per pelanggaran dan mengirimkan surat kepatuhan kepada Amazon, Alphabet, Apple, Meta, Microsoft, TikTok, X, dan platform besar lainnya pada 15 Mei.
Mengapa penting
Ini adalah rezim penegakan federal pertama yang mengikat untuk moderasi konten yang dihasilkan AI dalam skala besar, menggeser tanggung jawab platform dari diskresioner menjadi wajib. Platform yang menampilkan konten intim yang dihasilkan AI—baik melalui unggahan pengguna atau layanan AI generatif mereka sendiri seperti Grok milik X—sekarang menghadapi denda finansial per-instance dan investigasi FTC. Jendela 48 jam dan struktur denda per-pelanggaran menciptakan insentif kuat untuk penghapusan berlebihan, yang kelompok masyarakat sipil peringatkan dapat dimanfaatkan untuk sensor pidato legal.
Tindakan yang diperlukan
Tim keamanan AI di platform yang dicakup harus mengaudit alur kerja moderasi konten untuk citra intim tanpa persetujuan dan deepfake, memverifikasi bahwa mekanisme pelaporan dapat diakses oleh non-pemegang akun, menerapkan teknologi hashing untuk mencegah unggahan ulang, dan mendokumentasikan prosedur kepatuhan sebelum tanggal penegakan 19 Mei. Tim legal dan kebijakan harus meninjau apakah kebijakan konten AI yang ada memenuhi persyaratan pemberitahuan FTC yang jelas dan mencolok.