定義
AI安全機構の高度な推論機能を悪用し、複雑で曖昧なプロンプトを提供することで、モデルに最大限の計算リソースを消費させるサービス拒否攻撃。安全推論の能力が高いほど、リソース枯渇の影響が悪くなる。この攻撃は共有マルチテナントAIインフラストラクチャにおいて特に損害が大きい。
なぜ重要か
洗練されたガードレールと推論エンジンはAIをより安全にするためのものだが、攻撃者はこれらを悪用することができる。ガードレール推論を最大限に引き出すようなプロンプトを作成することで、攻撃者はGPUとCPUリソースを枯渇させ、正当なユーザーのサービスを低下させたり、クラウドの予算を消費したりすることができる。