失准如何对外报告：OpenAI 给出一个用于跟踪、调查并披露模型失准的框架，同时一并公布了六份关于意外或令人担忧的模型行为的报告
Our framework for reporting model misalignment
评分 58
导读
OpenAI 发布一套关于模型失准的报告框架，把「发现—调查—披露」这条链路标准化：框架说明如何跟踪、如何调查以及如何对外披露模型失准。与框架一起给出的还有六份具体报告，记录的是意外或令人担忧的模型行为。
推荐理由
框架与六份实例一起公开属于少见的自我披露，为失准讨论提供了可引用的样本；但材料未给出这些行为的具体内容。
主体与标签
#安全/对齐#现象/趋势
正文
OpenAI shares a framework for tracking, investigating, and disclosing model misalignment, alongside six reports of unexpected or concerning model behavior.