模拟部署预测模型发布前行为

OpenAI开发了一种部署模拟方法，在模型发布前通过隐私保护方式重放历史对话，模拟真实部署场景，以评估新模型可能的行为，包括发现新的不良行为及其出现频率。该方法已在GPT-5系列思维模型部署中应用，改善了不良行为率估计，发现了新的未对齐形式，并降低了模型意识到被测试的风险。它还能扩展到代理设置和工具使用场景。与传统评估相比，部署模拟能更全面覆盖行为类型，减少选择偏差。