何が起きたか
トランプ政権は、Vice President JD Vanceが自律的にソフトウェア脆弱性を発見するAnthropicのMythosモデルの能力に「懸念」したとされた後、FDA医薬品承認プロセスと同様に、高度なAIモデルの強制的な事前リリース安全性テストを検討しています。National Economic Council Director Kevin Hassettは、AIシステムが「安全性が証明された後に本番環境にリリースされる」ことを確保することが目標であると述べており、混乱対応ツールを欠いている地方自治体が管理する重要インフラストラクチャを対象とするモデルについて特に懸念しています。
なぜ重要か
これはEncode advocacy groupによれば、以前は「安全性」と「AI」を同じ文で結びつけることを避けていた政権にとって重大な政策転換を表しています。制約なしのAI革新の推進から、事前リリース要件の拘束を検討することへの転換は、モデルデプロイメントのタイムライン、コンプライアンスコスト、およびフロンティアラボの競争環境に影響を与えます。地方自治体インフラストラクチャの脆弱性に焦点を当てることは、AI駆動エクスプロイト開発がリソース不足のターゲットに対して悪用までの時間をゼロに向けて圧縮する可能性があることを認識しているため、運用上関連があります。
必要な対応
提案されたテストフレームワークの詳細について、どのモデル機能がレビューをトリガーするか、誰が評価を実施するか、タイムライン、およびレジームがUS開発モデルのみに適用されるか、それとも展開されている外国システムもカバーするかについてのホワイトハウス声明を監視してください。組織のAI使用例が重要インフラストラクチャまたは自律的な脆弱性研究に関わるかどうかを評価し、規制当局の問い合わせが続く場合に備えて安全性管理、監視、およびヒューマン・イン・ザ・ループガバナンスの証拠を準備してください。