무슨 일이 있었나
Microsoft는 2026년 5월 20일에 AI 에이전트 안전성을 지속적인 엔지니어링 분야로 운영화하도록 설계된 두 개의 오픈소스 도구를 출시했습니다. RAMPART는 PyRIT을 기반으로 구축된 테스트 프레임워크로, 레드팀 결과와 AI 인시던트를 CI/CD 파이프라인에서 실행되는 반복 가능한 안전성 테스트로 변환하며, 에이전트가 문서, 이메일 또는 기타 데이터 소스에서 잠재적으로 손상된 콘텐츠를 처리하는 크로스 프롬프트 인젝션 공격에 대한 성숙한 커버리지를 제공합니다. Clarity는 데스크톱 앱, 웹 인터페이스 또는 코딩 에이전트에 내장되어 실행되는 구조화된 설계 리뷰 도구로, 개발자가 구현 시작 전에 에이전트 동작, 권한, 도구 접근 및 신뢰 경계에 대한 가정을 검토하도록 촉구합니다. 두 도구 모두 GitHub에서 사용 가능하며 안전성을 주기적 체크포인트에서 지속적 프로세스로 변경하도록 설계되었습니다.
왜 중요한가
에이전트식 AI 시스템은 이제 데이터를 검색하고, 이메일에 접근하고, 코드를 작성하고, 연결된 도구를 사용하며 — 프롬프트 인젝션, 안전하지 않은 도구 사용, 권한 상승 등 전통적인 애플리케이션 보안이 설계되지 않은 새로운 공격 표면을 도입합니다. Microsoft의 출시는 AI 에이전트를 위한 소프트웨어 개발 라이프사이클에 안전성 테스트를 직접 포함시키는 것을 목표로 하는 Tier 1 랩의 첫 번째 오픈소스 프레임워크이며, 현재 대부분의 안전성 작업이 철학적이거나 프레임워크 지향적이며 운영상 실행 가능하지 않은 격차를 해결합니다.
필요한 조치
에이전트식 시스템을 구축하는 엔지니어링 리더는 기존 CI/CD 파이프라인에 RAMPART를 통합하기 위해 평가해야 하며, 크로스 프롬프트 인젝션 커버리지를 우선시해야 합니다. CISO는 내부 AI 레드팀 결과가 회귀를 방지하기 위해 RAMPART 테스트로 인코딩될 수 있는지 여부를 평가해야 합니다. 거버넌스 팀은 Clarity의 구조화된 설계 리뷰 프로세스가 기존 AI 위험 리뷰 체크포인트와 어떻게 비교되는지 검토해야 합니다.