무슨 일이 있었나
미국 사이버보안 기반시설 보안청(CISA)은 호주의 Australian Signals Directorate(ASD), 캐나다 사이버보안 센터, 뉴질랜드의 National Cyber Security Centre, 영국의 National Cyber Security Centre(NCSC)와 협력하여 agentic AI 시스템의 설계, 개발 및 배포 지침을 제시하는 공동 자문을 발표했다. 이 자문은 최소 권한 원칙의 엄격한 준수, 지속적인 모니터링 및 감시, 민감하지 않은 작업에 대한 인간-루프 통제, DevSecOps 기초에 따른 안전한 개발 관행, 그리고 정기적인 사건 대응 테스트를 의무화한다.
왜 중요한가
이는 agentic AI 보안을 구체적으로 목표로 하는 첫 번째 조정된 다국가 지침이다. 이 자문은 프롬프트 인젝션, 도구 오용, 권한 확산, 신원 스푸핑 및 에이전트 사칭을 명시적으로 다루고 있으며, 이는 기존 애플리케이션 보안 모델이 처리하도록 설계되지 않은 공격 벡터들이다. CISA의 에이전트(사용자뿐만 아니라)에 대한 최소 권한과 지속적인 감시 강조는 AI 에이전트가 분산 시스템 전체에서 기계 속도로 작동하여 정적 신뢰 경계로 보호하기 어렵다는 인식이 증가하고 있음을 반영한다. 이러한 통제를 구현하지 않고 에이전트를 배포하는 조직은 공격자에게 상승된 권한을 가진 지속적이고 자동화된 발판을 제공할 위험이 있다.
필요한 조치
CISO는 배포된 모든 AI 에이전트의 인벤토리를 수행하여 각 에이전트가 접근할 수 있는 데이터, 도구 및 시스템을 문서화해야 한다. 각 작업에 필요한 최소한의 에이전트 권한으로 제한하는 최소 권한 정책을 구현한다. 기만적인 에이전트 동작, 비정상적인 API 호출 또는 범위 확산을 표시하기 위한 지속적인 모니터링을 확립한다. 도구 사용 기능(예: MCP 서버, LangChain 도구)이 있는 에이전트의 경우, 인프라를 수정하거나 민감한 데이터에 접근하거나 코드를 실행하는 작업에 대해 인간 승인을 강제한다. agentic AI 손상 시나리오를 위해 특별히 설계된 사건 대응 계획을 검토하고 테스트한다.