Gemma Scope 2 开源:覆盖 Gemma 3 全部尺寸 270M 到 27B 的可解释性工具,团队称是迄今实验室最大规模开源
Gemma Scope 2: helping the AI safety community deepen understanding of complex language model behavior
LLM 能做推理壮举,内部决策过程却基本不透明;一旦系统行为不如预期,看不见内部就很难定位真正原因。去年他们用 Gemma Scope 推进了这门可解释性科学(面向 Gemma 2 的工具箱),今天发布的 Gemma Scope 2 是一套覆盖 Gemma 3 全部尺寸(270M 到 27B 参数)的综合开放工具,可以用来在整个模型大脑里追踪潜在风险。团队称据其所知这是迄今 AI 实验室最大规模的开源可解释性工具发布——生产这套工具存储了约 110 PB 的数据。
推荐理由:开源覆盖全尺寸加 110PB 这两个量级,是该方向迄今最实的一次公开发布。





