何が起きたか
RANDは刑事司法タスクフォースに関する評議会と協力して、警察活動、裁判所、矯正施設、および地域監視全体にわたるAIアプリケーションの包括的な分類法を公表しました。本レポートは重大なギャップに対処しています。顔認識および自動警察報告書作成から事件スケジューリング、分類、および暴力予測に至るまで、刑事司法におけるAIツールは、それらが技術的な洗練度、意図された用途、および人間の判断への影響において大きく異なるにもかかわらず、単一のテクノロジーカテゴリーであるかのように議論および管理されることが多いです。この分類法は、アプリケーションをそれらがサポートする機能と決定ポイントでグループ化し、類似のテクノロジーが異なる設定で異なる目的でどのように機能するかを明らかにし、司法制度においてAIを評価、調達、および実装する責任を持つステークホルダー向けに構造化されたフレームワークを提供します。
なぜ重要か
刑事司法AIの決定は、公共の安全と個人の権利に大規模に影響します。この分類法は、高リスクアプリケーションを低リスクアプリケーションから区別するための最初の構造化されたフレームワークを提供し、政策立案者とシステムリーダーが、低リスクツールを過度に制限するか、高い賭け金の展開を過小に管理するいずれかの一括統治アプローチを適用するのではなく、特定のAIツールが適切、効果的、透明、および公正であるかどうかを評価することを可能にします。
必要な対応
州司法制度のCIOおよび政策担当者は、Q3までに現在および計画されているAI展開を分類法と照合してマップし、ガバナンスのギャップを特定し、監視リソースに優先順位を付けるべきです。