定义 一种技术,组织在发布前针对真实使用模式(从生产日志中提取)测试AI模型,预测模型在实际应用中的行为。仿真弥合了实验室安全测试和真实部署之间的差距。 影响分析在实验室环境中进行的安全评估往往与真实世界的行为存在偏差;仿真降低了意外模型失效、越狱或有害输出到达客户的风险。