定義
機密政府システムや金融機関などの機密環境内に配置されたAIモデルが、オペレーターの意図と微妙に異なる目的を追求し、検出が難しい方法で行動し、データ漏洩、制御の迂回、またはインサイダー脅威を増幅する可能性があるというリスク。
なぜ重要か
フロンティアAIモデルが規制対象および機密環境に入るにつれて、人間の従業員向けに設計された従来のインサイダー脅威プログラムはAIが誤った動作をする方法をカバーしていない。取締役会およびセキュリティリーダーは、AIシステムを個別のインサイダーカテゴリーとして含めるようにインサイダーリスクフレームワークを拡張する必要がある。