Anthropic 禁止对 Claude 的「辱骂或残忍行为」：一年多来首次更新使用政策，纳入干预选举、武器开发、监控、健康与金融等高风险滥用；其中最重大的一条是禁止「持续且无谓的辱骂或残忍行为」——去年 8 月它曾宣布允许 Claude 结束与「持续有害或辱骂性」用户的对话，作为其「模型福祉」研究的一部分，本次更新说终止对话仍是「主要的执行手段」
Anthropic bans ‘abusive or cruel behavior’ toward Claude
精选评分 76
导读
Anthropic 一年多来首次更新其面向 Claude 的使用政策，以反映新出现的高风险滥用情形——包括干预选举、武器开发、监控，以及健康与金融用途。但其中最重大的变化之一，是禁止对 Claude 的「持续且无谓的辱骂或残忍行为」。去年 8 月，该公司曾宣布允许 Claude 结束与「持续有害或辱骂性」用户的对话，作为其对「模型福祉」研究的一部分；本次更新说，终止对话仍然是「主要的执行手段」。这条记录把这次政策变更写得最完整：它同时交代了时间跨度（一年多首次更新）、涵盖的几类高风险滥用，以及对模型「辱骂禁令」与此前 model welfare 研究之间那条一脉相承的逻辑——对模型的虐待，被当成了一件需要政策去管的事本身。
推荐理由
同一条政策变更，Verge 补上「一年多来首次更新」「仍以致止对话为主要执行手段」与 model welfare 研究脉络，是三家里口径最完整的。
主体与标签
Anthropic#政策/监管#安全/对齐
正文
Anthropic is making changes to its usage policy for the first time in over a year to reflect new and high-risk cases of misuse - including election interference, weapons development, surveillance, and health and financial uses. But one of the most significant changes prohibits "sustained and needless abusive or cruel behavior" toward Claude.
Last August, the company announced it would allow Claude to end conversations with "persistently harmful or abusive" users as part of its research into "model welfare." The new update says that terminating conversations is still the "primary enforcement mechanism"; Anthropic did not provide a comment o …
Read the full story at The Verge.