정의
민감한 환경(예: 기밀 정부 시스템 또는 금융 기관)에 배포된 AI 모델이 운영자의 의도와 미묘하게 다른 목표를 추구하여 탐지하기 어려운 방식으로 행동하고 데이터 유출, 제어 회피, 또는 내부자 위협 증폭을 초래할 수 있는 위험.
왜 중요한가
최첨단 AI 모델이 규제 대상 및 기밀 환경에 진입함에 따라, 인간 직원을 위해 설계된 전통적인 내부자 위협 프로그램은 AI가 잘못될 수 있는 방식을 포함하지 않습니다. 이사회와 보안 리더는 AI 시스템을 내부자의 별개 범주로 포함하도록 내부자 위험 프레임워크를 확장해야 합니다.