무슨 일이 있었나
2026년 6월 11일, 캐나다 개인정보보호청(OPC)은 PIPEDA 판정 #2026-004를 공개했다. OPC는 X Corp.(플랫폼 X 운영자)와 X.AI LLC(Grok 챗봇 개발사)가 Grok의 이미지 생성 서비스를 통해 노골적이고 성적인 딥페이크를 생성하기 위해 수집, 사용, 공개된 개인 정보에 대해 유효한 동의를 얻지 못함으로써 PIPEDA를 위반했다고 판단했다. 전문가 주도 조사는 2026년 1월 15일에 시작되었다. OPC는 그 목적인 성적인 딥페이크 생성을 가능하게 하는 것이 동의 여부와 관계없이 합리적인 사람에 의해 적절하다고 여겨지지 않을 것이라고 판단했다. 조사 과정에서 X와 xAI는 딥페이크 오용 위험을 줄이기 위한 새로운 보호 조치와 유해한 콘텐츠를 감지/제거하기 위한 사전 검사를 도입했다. OPC는 계속해서 구현을 모니터링할 것이다.
왜 중요한가
이것은 AI 이미지 생성 기능을 직접 대상으로 하는 첫 번째 주요 캐나다 개인정보 보호 집행 판정이다. 이는 PIPEDA에 따라 다음을 확립한다: (1) 동의는 성적인 딥페이크 생성을 위한 개인 데이터 수집/사용을 정당화할 수 없다; (2) '합리적인 사람' 적절성 테스트는 동의 메커니즘뿐만 아니라 AI 사용 사례 자체에 적용된다. 이는 캐나다에서 운영되는 모든 AI 이미지 생성 서비스에 대한 구속력 있는 규정 준수 선례를 창출하며, 전 세계 개인정보 보호 전문가들이 AI 생성 성적 콘텐츠에 어떻게 접근할 수 있는지를 신호한다.
필요한 조치
캐나다 사용자가 있는 AI 이미지/비디오 생성 서비스 운영자는 다음을 수행해야 한다: (1) 자신의 서비스가 성적 또는 노골적인 콘텐츠를 생성할 수 있는지 평가; (2) 이러한 생성을 방지하기 위한 기술적 보호 조치 구현; (3) 동의 프레임워크 검토 — PIPEDA에 따라 사용이 본질적으로 부적절한 경우 동의만으로는 불충분하다. 유해한 AI 생성 콘텐츠에 대한 사전 탐지 및 제거 시스템을 구현한다.