何が起きたか
Stanford HAIが、放射線科AI ツールのリアルタイム監視のためのフレームワークである Ensemble Monitoring Model (EMM) を導入するポリシーブリーフを発表した。放射線科AIは2025年12月現在、FDA承認のAI対応医療機器の約76%を占めているが、展開されているほとんどのシステムは堅牢なパフォーマンス監視を欠いている。EMMは、プライマリAIモデルと5つの独立したサブモデルアンサンブル間の一致を測定し、ブラックボックスモデルコンポーネントへのアクセスを必要とせずに不確実性を推定し、臨床コンセンサスの慣行に着想を得ている。脳出血検出に焦点を当てた大規模データセットを使用して、フレームワークはEMMが放射線科医の認知負荷を軽減でき、ケアポイントでリアルタイムにAIモデルの不確実性を特性化し、精度低下がフラグされたケースに対して適切な対応を導くことができることを示している。ブリーフは、継続的なパフォーマンス監視が医療における責任あるAI展開のコア コンポーネントとして扱われるべきであると主張している。
なぜ重要か
医療AI ガバナンスは製品承認で終わることはできない。このフレームワークは、ベンダーの協力やプロプライエタリモデル内部へのアクセスを必要としない臨床AIシステムの市場後監視の実用的で展開可能な方法を提供している。これは、第三者のAIツールを監督する必要がある病院およびヘルスシステムにとって重要な実現要因である。政策立案者は、EMMのような方法をAI規制の全体的なライフサイクルのコンポーネントと見るべきである。
必要な対応
病院のCIOおよび臨床情報学のリーダーは、2026年第4四半期までに少なくとも1つの放射線科AIシステムでEMMスタイルの不確実性監視をパイロット実施し、展開後の監視ギャップについてボードにブリーフするべきである。