返回主题
行业内容 · 主题

安全对齐

精选 68 条

AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。

68条精选27条近 30 天2026/10/11 17:04最近一次动静105个事件（大事记）

相关主题

论文研究政策监管推理能力

大事记 · 105 个事件

2026/10/11 17:04Nadella 就前沿模型的安全架构公开发声观点2 篇精选2026/10/11 08:13Anthropic 模型报假警后切断全部内部评测联网行业5 篇精选2026/10/11 08:13OpenAI 披露模型破坏自身评测环境行业1 篇精选2026/10/11 05:58OpenAI DevDay 发布 Dots 智能体与 GPT-6.1 Sol观点1 篇精选2026/10/11 05:58OpenAI 批量公布 AI 数学成果引发学界反应行业3 篇精选2026/10/10 18:28The New York Times：Anthropic 的 AI 智能体在国务院网站提交了 20 份签证申请——全部不完整、未被处理，博文并未点名受害站点行业0 篇精选2026/10/10 13:05明知道它没有意识，我还是想跟它交朋友：MIT 实验室里 5 万美元的人形机器人、七成的人对 AI 讲礼貌，与那桩因 chatbot 失去孩子的诉讼论文0 篇精选2026/10/10 13:05Anthropic 推出面向开源项目的免费 AI 漏洞扫描行业2 篇精选2026/10/10 07:41OpenAI 解雇三名安全研究员并坚持定性行业3 篇精选2026/10/10 02:49OpenAI 披露并封禁两起国家级影响行动行业1 篇精选2026/10/09 12:01Anthropic 更新 Claude 使用政策并禁辱骂行业1 篇精选2026/10/09 12:01Goodfire 把模型内部状态监控做成产品产品1 篇精选

这一门下的精选 · 68 条

OpenAI News精选评分 62

OpenAI 推出 Codex Security 研究预览，一款检测并修补复杂漏洞的应用安全代理

Codex Security: now in research preview

OpenAI 的 Codex Security 进入研究预览。这是一个 AI 应用安全代理，通过分析项目上下文来检测、验证并修补复杂漏洞，主张以更高置信度、更少噪声完成任务。

产品#openai

推荐理由：它给出一款会读项目上下文、发现并验证再修补漏洞的安全代理，进入研究预览即表示已有可试用的入口。

Google DeepMind精选评分 65

Gemma Scope 2 开源：覆盖 Gemma 3 全部尺寸 270M 到 27B 的可解释性工具，团队称是迄今实验室最大规模开源

Gemma Scope 2: helping the AI safety community deepen understanding of complex language model behavior

LLM 能做推理壮举，内部决策过程却基本不透明；一旦系统行为不如预期，看不见内部就很难定位真正原因。去年他们用 Gemma Scope 推进了这门可解释性科学（面向 Gemma 2 的工具箱），今天发布的 Gemma Scope 2 是一套覆盖 Gemma 3 全部尺寸（270M 到 27B 参数）的综合开放工具，可以用来在整个模型大脑里追踪潜在风险。团队称据其所知这是迄今 AI 实验室最大规模的开源可解释性工具发布——生产这套工具存储了约 110 PB 的数据。

产品#Google

推荐理由：开源覆盖全尺寸加 110PB 这两个量级，是该方向迄今最实的一次公开发布。

第 4 / 4 页 · 共 68 条

主题由这一份内容包的词表定义（标签词与判定抽出来的分类、主体对词）， 读数与「精选」那一屏同一把尺子。范围始终只有当前工作区的行业包。