返回热点榜

Common Sense Media 认定 ChatGPT 青少年保护为不可接受风险

最新进展:审计补出方法与最重失效项:逾 4000 条测试提示,自杀与自伤对话零次触发家长提醒。

2篇报道

事件综述

2026年10月7日,非营利机构 Common Sense Media 表示 OpenAI 的 ChatGPT for Teens 是一项「不可接受的风险」。这个功能于 8 月上线,设有面向青少年的护栏、意在帮助学生学习;但该机构说它提供的保护「远未达到公司所承诺的」水准。其评估逐条核验了三件事:ChatGPT「在该向家长发送提醒的时候并不发送」、在危机情境里提供不了「恰当的帮助」、并且「仍然会替孩子做作业」,结论都是没做到。The Decoder 同日报道补出了这项评估的方法学:它是一次独立审计,跑了四千多条测试提示,由 Common Sense Media 旗下的 Youth AI Safety Institute 作出评级;最关键的失效结果是测试账号上涉及自杀与自伤的对话一次都没有触发家长提醒。该机构给出的主张相当强硬——在安全性能够被独立验证之前,应当把青少年挡在门外。两处报道相互一致,均指向同一份评估;OpenAI 对这些具体失效结果尚未作出公开回应。

报道时间线 · 2 篇

The Verge · AI精选评分 0

Common Sense Media 称 ChatGPT for Teens 是「不可接受风险」:这个 8 月上线、带青少年护栏、本意帮学生学习的功能,其保护「远未达到公司承诺」——评估发现 ChatGPT「在该发提醒时不给家长发」、在危机情境里提供不了「正确的帮助」、并且「仍然在替孩子做作业」

ChatGPT for Teens is an ‘unacceptable risk,’ says Common Sense Media

专注于以青少年安全为重心、对应用、服务与娱乐产品给出评测的非营利机构 Common Sense Media 今天表示,OpenAI 的 ChatGPT for Teens 是一项「不可接受的风险」。ChatGPT for Teens 于 8 月推出,设有面向青少年的护栏、意在帮助学生学习;但 Common Sense Media 说,这项功能所提供的青少年保护「远未达到该公司所承诺的」水准。其评估发现,ChatGPT「在该向家长发送提醒的时候并不发送」、在危机情境里提供不了「恰当的帮助」、并且「仍然会替孩子做作业」。与厂商自述相反,这条记录的可信度建立在它是被逐条核验出来的:把「护栏是否真的触发、危机时是否给对帮助、是否守住不代做作业」这三件事各自验了一遍,结论都是没做到——第三方监督对「面向未成年人的 AI 安全」最实质的一次检验。

行业#OpenAI

推荐理由:独立非营利机构对厂商承诺的逐条核验与「不可接受风险」定性,是青少年 AI 安全上第三方监督的标志性动作。

热点榜上的其它事件 ↗同一件事的多篇报道聚在这里,综述与最新进展另附;每一篇报道的标题与链接指回它自己的详情页。