무슨 일이 있었나
NIST의 AI 표준 및 혁신 센터(CAISI)는 2026년 5월 5일 Google DeepMind, Microsoft, xAI와 구속력 있는 계약을 체결하여 프론티어 AI 모델에 대한 정부 주도의 배포 전 평가 및 지속적인 연구를 확립했다. Anthropic과 OpenAI와의 기존 파트너십을 재협상하는 이 계약들은 CAISI가 공개 출시 전에 모델을 평가하고 기밀 환경을 포함한 배포 후 테스팅을 수행할 수 있도록 한다. CAISI는 현재까지 국가 안보 위험을 평가하기 위해 안전장치를 제거한 공개되지 않은 최첨단 모델을 포함하여 40개 이상의 평가를 완료했다.
왜 중요한가
이는 미국 AI 정책에서 자발적 약속에서 배포 전 단계의 운영 감시로의 실질적인 전환을 의미한다. 이 시기는 Anthropic의 Mythos와 같은 모델의 공격적 사이버 기능에 대한 우려 증가를 따르며, AI가 국가 안보 임계값을 넘었다는 것을 깨달은 후 트럼프 행정부가 규제 완화에서 보안 우선 평가로의 전환을 반영한다. 컨설팅 고객의 경우, 이는 프론티어 모델 배포가 점점 더 정부 조율을 요구할 것임을 신호하며, 기업들은 특히 중요 인프라 및 방위 부문에서 고위험 AI 애플리케이션에 대해 유사한 사전 승인 기대를 예상해야 한다.
필요한 조치
AI 조달 및 배포 로드맵을 검토하여 잠재적 정부 평가 요구사항을 고려한다. 프론티어 모델을 구축하거나 배포하는 고객의 경우, TRAINS 태스크포스를 통해 CAISI와의 협력 프로토콜을 확립한다. 엔터프라이즈 AI 사용자의 경우, 이러한 계약이 주요 공급업체의 모델 출시 일정에 미치는 영향을 모니터링하고 내부 고위험 AI 시스템이 유사한 배포 전 테스팅 프레임워크를 채택해야 하는지 평가한다.