무슨 일이 있었나
RAND는 인공지능에 관한 범죄 사법 위원회 태스크포스와 협력하여 경찰, 법원, 교정 및 지역사회 감시에 걸친 AI 응용 프로그램의 포괄적인 분류체계를 발표했습니다. 이 보고서는 중요한 공백을 다룹니다: 얼굴 인식과 자동화된 경찰 보고서 작성에서부터 사건 일정 조율, 분류, 폭력 예측에 이르는 범죄 사법의 AI 도구들은 기술적 정교함, 의도된 사용, 그리고 인간의 판단에 대한 영향이 크게 다름에도 불구하고 마치 단일 기술 범주인 것처럼 논의되고 관리되고 있습니다. 이 분류체계는 응용 프로그램을 그것이 지원하는 기능과 의사결정 지점별로 그룹화하여 유사한 기술이 여러 환경에서 어떻게 다른 목적으로 활용될 수 있는지 명확히 하고, 사법 체계에서 AI를 평가, 조달 및 구현할 책임이 있는 이해관계자들을 위한 구조화된 틀을 제공합니다.
왜 중요한가
범죄 사법 AI 의사결정은 공공 안전과 개인의 권리에 광범위한 영향을 미칩니다. 이 분류체계는 고위험 응용 프로그램과 저위험 응용 프로그램을 구별하기 위한 첫 번째 구조화된 틀을 제공하여 정책 입안자와 시스템 지도자가 저위험 도구를 과도하게 제한하거나 고위험 배포를 불충분하게 관리하는 일반적인 관리 접근 방식을 적용하는 대신, 특정 AI 도구가 적절하고 효과적이며 투명하고 공평한지 평가할 수 있도록 합니다.
필요한 조치
주(State) 사법 체계 CIO 및 정책 담당자는 Q3까지 분류체계에 따라 현재 및 계획된 AI 배포를 매핑하여 관리 공백을 파악하고 감시 자원의 우선순위를 정해야 합니다.