무슨 일이 있었나
NIST 선임 과학자 Apostol Vassilev는 2026년 5월-6월 IEEE Security & Privacy 논문(DOI: 10.1109/MSEC.2026.3678214)에 피어 리뷰된 수학적 증명을 발표했으며, 괴델의 불완전성 정리에 기초하여 유한한 AI 보안장치 집합이 적대적 프롬프트에 대해 범용적으로 견고할 수 없음을 입증했다. NIST는 2026년 6월 9일 뉴스 릴리스를 발표하여 이 증명과 그 함의를 강조했다: 조직은 '일회성' 정적 보안장치 모델에서 AI 시스템을 위한 지속적 모니터링 및 업데이트 보안 아키텍처로 전환해야 한다.
왜 중요한가
수학적 논리에 기초한 엄밀한 이론적 근거를 제공한다 — AI 안전 보안장치가 충분한 적대적 노력을 고려할 때 항상 우회 가능함을 보여주는 증명이다. 이는 의견 기고문이 아니다: IEEE Security & Privacy에 발표된 피어 리뷰된 증명이며 NIST가 기초적 지침으로 강조했다. '완벽한' AI 안전성에 대한 제품 주장에 직접 도전하며 실무자들이 AI 보안을 일회성 배포 게이트가 아닌 지속적인 운영 규율로 취급하도록 요구한다. LLMs, 에이전트형 AI 또는 기타 보안장치 기반 AI 시스템을 배포하는 모든 조직에 적용된다.
필요한 조치
AI 보안 아키텍처를 검토하고 업데이트하여 정적 일회성 안전 검증이 아닌 지속적 모니터링, 적응형 보안장치 업데이트 및 지속적인 적대적 테스트를 채택한다. 발견사항을 NIST AI RMF GOVERN 및 MEASURE 기능에 매핑한다.