무슨 일이 있었나
트럼프 행정부는 인류보전(Anthropic)의 Mythos 모델이 소프트웨어 취약점을 자율적으로 발견할 수 있는 능력 때문에 부통령 JD Vance가 '우려'를 표명한 이후, FDA 의약품 승인 절차와 유사한 고급 AI 모델에 대한 의무적 사전 공개 안전 테스트를 모색하고 있습니다. 국가경제위원회 디렉터 Kevin Hassett은 AI 시스템이 '안전성이 입증된 후 시장에 출시'되도록 하는 것이 목표이며, 중단 도구가 부족한 지방정부가 관리하는 주요 기반시설을 표적으로 하는 모델에 대한 우려가 특히 있다고 밝혔습니다.
왜 중요한가
이는 이전에 'safety'와 'AI'를 같은 문장에서 언급하는 것을 피했던 행정부의 상당한 정책 전환을 의미합니다(Encode 옹호 단체에 따름). AI 혁신을 제약 없이 촉진하는 것에서 사전 공개 의무 요구사항을 고려하는 것으로의 전환은 모델 배포 일정, 규정 준수 비용, 및 최첨단 연구소의 경쟁 환경에 영향을 미칩니다. 지방정부 기반시설 취약점에 대한 초점은 AI 기반 취약점 개발이 자원이 부족한 대상에 대한 악용까지의 시간을 거의 0에 가깝게 단축할 수 있다는 점을 인식하고 있기 때문에 운영상 관련성이 있습니다.
필요한 조치
제안된 테스트 프레임워크의 세부사항(검토를 촉발하는 모델 기능, 평가 수행자, 일정, 그리고 규제가 미국 개발 모델에만 적용되는지 또는 배포된 외국 시스템도 포함하는지 여부 포함)에 대해 백악관 공지사항을 모니터링하세요. 조직의 AI 사용 사례가 주요 기반시설이나 자율 취약점 조사를 포함하는지 평가하고, 규제 조사가 뒤따를 경우 안전 제어, 모니터링, 및 인간 개입형 거버넌스에 대한 증거를 준비하세요.