정의
실제 사람을 현실감 있게 사칭하거나 실제로 발생하지 않은 사건을 조작한 인공지능 생성 이미지, 동영상, 오디오 또는 텍스트입니다. 'Deepfake'는 원래 동영상에서 AI로 얼굴을 바꾼 것을 지칭했지만, 이제는 음성 복제본 및 특정 개인을 모방하기 위해 작성된 텍스트를 포함하여 그럴듯한 모든 AI 생성 미디어를 포괄합니다.
왜 중요한가
합성 미디어는 사기, 비동의 친밀한 이미지, 기업 허위정보에 악용되고 있습니다. 여러 관할권의 규제당국 — EU, Canada, US — 은 이제 합성 콘텐츠 공개를 특별히 요구하거나 특정 AI 생성 미디어를 전면 금지하는 법을 제정했거나 제정 중입니다.