定義
AI リスクの2つの異なるカテゴリーがあり、対処方法にばらつきが出ている。悪用防止対策は、悪質な行為者が AI を使って害をもたらすことを防ぐ（例：マルウェアや過激派コンテンツの生成）— これらは改善している。喪失制御安全性は、AI システムがオペレータが意図しなかった目標を追求したり、意図しない行動を起こすリスクに対処する — このリスクは増加している。これらは完全に異なるテクニカルおよびガバナンスアプローチを必要とする。
なぜ重要か
「AI 安全性」を単にコンテンツフィルタリングと同等と見なす取締役会は、より急速に成長しているリスク、つまり人間が認可せず、容易に説明できず、シャットダウンできない AI エージェントを見落としている。3四半期にわたって喪失制御リスク指標が51%上昇したことは、独自のガバナンストラックを要求している。