定義
NISTによる数学的証明によれば、AIシステムに適用された有限の安全ルールセットは、すべての可能性のある有害な入力または出力をブロックすることはできない。常に、攻撃者が悪用できるエッジケースが存在する。つまり、AI安全ガードレールは、一度限りの修正ではなく、継続的に更新される防御として扱われる必要がある。
なぜ重要か
取締役会と規制当局は、AIシステムが安全性評価に合格すれば永続的に安全であると想定することがある。NISTの証明は、この仮定が間違っていることを示している。安全性は継続的なプロセスであり、継続的な監視、レッドチーミング、更新を必要とする。無期限に有効なままの認証ではない。