长时程模型的安全课：OpenAI 分享部署长时间运行 AI 模型的经验，涉及新的安全风险、观察到的失败（observed failures），以及靠迭代部署改进防护
Safety and alignment in an era of long-horizon models
精选评分 65
导读
OpenAI 发布一篇题为「长时程模型时代的安全与对齐」的文章，总结部署长时运行（long-running）模型的经验教训，点出这类模型带来的新安全风险、实际观察到的失败案例，以及通过迭代部署（iterative deployment）所作的防护改进。属于把自身运行经验对外摊开的安全论述。
推荐理由
明确承认「观察到的失败」并给出改进路径，比一般安全宣传更可信，对同行是直接的经验材料；但材料不给出失败案例的完整细节。
主体与标签
#安全/对齐#现象/趋势
正文
OpenAI shares lessons from deploying long-running AI models, highlighting new safety risks, observed failures, and improved safeguards through iterative deployment.