何が起きたか
マイクロソフトは 2026 年 5 月 20 日に、AI エージェントの安全性を継続的なエンジニアリング規律として実装することを目的とした 2 つのオープンソースツールをリリースしました。RAMPART は PyRIT 上に構築されたテストフレームワークで、レッドチーム の発見と AI インシデントを、CI/CD パイプラインで実行される反復可能な安全テストに変換します。エージェントがドキュメント、メール、または他のデータソースから潜在的に危険なコンテンツを処理するクロスプロンプトインジェクション攻撃に対して成熟したカバレッジを提供しています。Clarity は構造化された設計レビューツールで、デスクトップアプリ、ウェブインターフェース、またはコーディングエージェントに埋め込まれた形で実行され、開発者に実装開始前にエージェントの動作、権限、ツールアクセス、信頼境界に関する仮定を検証するよう促します。両ツールは GitHub で利用可能であり、安全性を定期的なチェックポイントから継続的なプロセスへシフトするように設計されています。
なぜ重要か
エージェント型 AI システムは現在、データの取得、メールへのアクセス、コードの作成、および接続されたツールの使用を行っており、従来のアプリケーションセキュリティが対応していない新しい攻撃面（プロンプトインジェクション、安全でないツール使用、権限昇格）を導入しています。マイクロソフトのリリースは、AI エージェント向けのソフトウェア開発ライフサイクルに安全性テストを直接組み込むことを目的とした、Tier 1 ラボからの最初のオープンソースフレームワークであり、現在の安全性に関する作業のほとんどが哲学的またはフレームワーク指向のままで、運用上実行可能ではないというギャップに対応しています。
必要な対応
エージェント型システムを構築するエンジニアリングリーダーは、既存の CI/CD パイプラインへの統合を念頭に RAMPART を評価し、クロスプロンプトインジェクションカバレッジを優先すべきです。CISO は、内部 AI レッドチーム の発見を RAMPART テストとしてエンコードして回帰を防止できるかどうかを評価すべきです。ガバナンスチームは、Clarity の構造化された設計レビュープロセスが既存の AI リスクレビューチェックポイントとどのように比較されるかを確認すべきです。