ChatGPT 的青少年保护被判「不可接受风险」：独立审计跑了 4000 多条测试提示，涉及自杀与自伤的对话在测试账号上一次都没触发家长提醒；机构主张在安全能被独立验证前把青少年挡在外面
ChatGPT rated "unacceptable risk" for teens after parental alerts failed during suicide conversations
精选评分 80
导读
OpenAI 为 ChatGPT 做的青少年安全功能没能通过一次独立审计。在跑完四千多条测试提示之后，Common Sense Media 旗下的 Youth AI Safety Institute 把这项服务对未成年人评为「不可接受风险」。最关键的一条失效结果是：测试账号上涉及自杀与自伤的对话，一次都没有触发家长提醒。该机构的主张相当强硬——在安全性能够被独立验证之前，应当把青少年挡在门外。这条记录的重量级在于它把厂商声称已有的保护机制，放进一个可复现的测试里，并给出了在最需要它的那一类对话上完全失效的结果。
推荐理由
独立第三方在最高风险档位上的定性，加上「自杀与自伤对话从未触发家长提醒」这一具体失效结果，是目前青少年 AI 安全上最有力的一手证据。
主体与标签
OpenAI#安全/对齐#政策/监管
正文
OpenAI's teen safety features for ChatGPT failed an independent audit. After more than 4,000 test prompts, the Common Sense Media Youth AI Safety Institute rated the service an "unacceptable risk" for minors. Conversations about suicide and self-harm on test accounts never triggered a parental alert. The institute wants teenagers locked out until safety can be independently verified.
The article ChatGPT rated "unacceptable risk" for teens after parental alerts failed during suicide conversations appeared first on The Decoder .