定義
AIを搭載したプラグインやチャットボットが、誰が何を見たり実行したりすることが許可されているかを適切に確認しないセキュリティ欠陥。基本的なサブスクライバーなどの低権限ユーザーは、この欠陥を悪用して、プライベートな会話ログを読み取ったり、保存されたAPIキーを抽出したり、決して実行する権限を持つべきではないアクションをトリガーしたりできます。
なぜ重要か
企業ウェブサイトにインストールされた単一の設定ミスのあるチャットボットプラグインは、攻撃者にAIスタック全体の認証情報を提供する可能性があります。これには、サードパーティのAIプロバイダーへの課金アクセスを許可するキーも含まれます。これらのプラグインはマーケティングまたはオペレーションチームによってセキュリティレビューなしでインストールされることが多いため、露出は数ヶ月間検出されないままになる可能性があります。