정의
실제 사람의 사실적인 가짜 이미지나 동영상을 생성하기 위해 AI 도구를 사용하는 행위—특히 그 사람의 동의 없이 친밀하거나 성적인 이미지를 생성하는 경우. 개인정보보호 규제 기관들은 이제 적절한 동의 보호 장치 없이 이러한 도구를 공개적으로 제공하는 것 자체가 그 도구가 악의적으로 사용되었는지 여부와 관계없이 개인정보보호법 위반이라고 판정하고 있습니다.
왜 중요한가
캐나다 개인정보보호 규제 기관이 xAI의 Grok 이미지 도구에 대해 내린 판정은 적절한 동의 메커니즘 없이 AI 생성 딥페이크 기능을 제공하는 것이 개인정보보호법에 따른 직접적인 기업 법적 책임을 야기한다는 것을 확립합니다. 이러한 논리는 다른 관할권의 규제 기관들에 의해 채택될 가능성이 높습니다.