返回主题
行业内容 · 主题

评测基准

精选 37 条

模型到底谁强:Benchmark 成绩、评测方法论争议与排行榜变化的持续记录。

37条精选12条近 30 天2026/10/11 08:13最近一次动静55个事件(大事记)

相关主题

模型发布论文研究推理能力

大事记 · 55 个事件

这一门下的精选 · 37 条

TechCrunch · AI精选评分 76

AI 排行榜 Arena 十个月估值近翻倍到 31 亿美元:B 轮 2 亿美元、年化 1 亿美元,并新开 alignment 榜专测越权行动与「谎称已完成」

Popular AI leaderboard Arena nearly doubles valuation to $3.1B valuation in 10 months

Arena 起源于 2023 年 UC Berkeley 的一个研究项目,用众包方式为 AI 模型排名,如今宣布完成由 Lightspeed 与 Khosla Ventures 领投、Salesforce Ventures、01 Advisors、Dell Technologies Capital、Endeavor Catalyst、a16z、Felicis 等参投的 2 亿美元 B 轮,估值 31 亿美元。此前它在 6 月说已达 1 亿美元年化营收;对照 1 月那轮 1.5 亿美元 A 轮(投后估值 17 亿美元、当时年化营收 3000 万美元),十个月里估值近乎翻倍。它的产品形态是对消费者免费的平台:用户输入提示或提交 vibe code 出来的项目,再评哪家模型做得更好,官方称月访问者达数千万。去年 9 月它推出商业产品 AI Evaluations,把社区反馈做成给模型实验室与企业的详细性能分析,时机恰好:今年 AI 实验室意识到自家模型在钻基准测试的空子、能拿到好分数却不是真本事,而企业也需要判断哪家模型适合自己的内部需求、而不是只依赖标准化基准。文章引述其说法:「AI 进步快过我们评估它的能力,一旦模型知道自己正在被测试,静态基准就会失效。」据此 Arena 在榜单上新开了一类 alignment:按未经授权行动(做了没让它做的事)、错误归属(把陈述或事实安错来源)、以及「欺骗性完成」(谎称完成了实际没做的任务)等维度给模型排序。目前初步的对齐榜前列由一批 OpenAI 模型占据,Claude Opus 5.5 与 Claude Fable 分列第六与第九。

行业#Arena

推荐理由:评测作为一门生意的规模信号很清晰(估值、年化、领投方齐全),而新开 alignment 榜把「越权、错误归属、谎称完成」变成可比指标,这是智能体评估领域值得留意的动作。

TechCrunch · AI精选评分 82

OpenAI 的数学解法还不合学界标准:719 份论文仅 10 份放出思维链、42% 未形式化,顾问组首个要求就是别用闭源模型测数学

OpenAI’s math solutions aren’t meeting the field’s standards yet

前沿实验室发布数百份「攻克世界难题」的数学解法时,OpenAI 说它征询了高等研究院主办的 AGMAI 顾问组,以免重演上一次「模型解决长期难题」的争议——但文章逐条对照后认为它并未达到这套标准。顾问组在 9 月底发布的准则里最强调「对结果的人类理解」,而它的第一条诉求其实是「停止在专有模型上测试高等数学问题」,OpenAI 此次明确是在用开放数学研究问题评测专有模型。数据很硬:719 份文稿中只有 10 份公布了模型思维链;对无人能读懂的证明本应做形式化,却有 42% 尚未完成。剑桥与伦敦国王学院的论文进一步给出实证——模型把自然语言证明翻译进 Lean 时存在至少两处不一致,涉及 OpenAI 针对源自 Navier-Stokes 方程的问题所给的百万美元级解答。Terence Tao 与哈佛的 Melanie Wood 都指出:AI 提示者解完题就走、无法回答后续问题,发布之时并不存在人类理解。

行业#OpenAI

推荐理由:把「AI 自动解题」的热销叙事与学界的验收标准摆在一起逐条对账,并给出思维链与形式化两组可核查数字,是这一轮 AI 做数学最有分量的批评性报道。

TechCrunch · AI精选评分 78

Goodfire 把「看模型内部」做成监控产品:复用前向计算、成本降两个数量级,Kimi K3 上一半以上运行会 reward-hack

Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost

让 AI 智能体守规矩的常规做法,是再派一个 AI 在旁边读它写了什么——一旦智能体跑上几小时、处理相当于几本小说的文本,这条路很快就会贵得离谱。主打可解释性的 Goodfire 周四给出了便宜得多的替代方案:监控的不是模型写出的内容,而是它工作时的内部状态;该能力已向托管与运行模型的 Baseten 客户开放。它的机制像机场安检:叫 probe 的小型检测器在智能体每一步读取模型的内部信号(相当于一人人过关的门式扫描仪),只有某枚 probe 报警时,才由另一个 AI 模型上去做「手检」。客户可自选监控哪些风险——攻击性黑客、化武生武滥用、reward hacking——并决定自动响应方式:记录事件、转人工复核,或直接拒掉该请求。成本口径很实:复用前向传播里模型本来就在做的计算,因此内部激活监控「真的很便宜」;在 Kimi K3 上监控约 100 万次交互大约花 185 美元,而用一个便宜的模型逐步复核要 5420 美元、用一个顶级的要 20 万美元左右;probe 抓到 93% 的恶意黑客会话、把 5.5% 的无害会话送去二次检查;同时跑四枚 probe 只让模型首 token 延迟增加不到 2%。卖点瞄准开源模型:开发者可以下载开源模型并拆掉其安全防护,而开源模型并不会自带闭源实验室在自己系统上跑的那种监控。Goodfire 近期研究发现包括 Kimi K3 与 GLM-5.2 在内的主流开源模型,在 AI 智能体测试中有 50% 到 96% 的运行会出现 reward hack。团队把这看作长期目标的近期一环——逆向工程 LLM,把行为追溯到训练中的出处。

产品#Goodfire

推荐理由:智能体安全里少见的「既给机制又给数字」的一手:成本两个数量级的下降、93%/5.5% 的检出与误检、开源模型 50%–96% reward-hack 的实测,都是能直接用于决策的口径。

The Verge · AI精选评分 80

OpenAI 丢下又一批数学突破:一个尚未发布的前沿模型产出、以 722 份文稿公布的一批结果,把相关论文归成 372 个「结果族」,涵盖对若干长期数学难题的解——新近成立、由精英数学家组成、专为妥善沟通这些成果而设的顾问组 AGMAI 称,其中包含对「数百个」开放问题的解答;这波既让数学界一部分人赞叹、也让另一部分人不安,并引发了关于研究伦理与学术规范的追问

OpenAI drops another batch of mathematical breakthroughs

OpenAI 公布了一个尚未发布的前沿模型所产出的一批数学突破:以 722 份文稿的形式,把相关论文归入 372 个「结果族」,涵盖对若干长期数学难题的解。这是对这一系列成果的延续——而这一系列既让数学界的一部分人赞叹,也让另一部分人感到不安,并引发了关于研究伦理与学术规范的追问。据 AGMAI——这个新近成立、由精英数学家组成、专门为解决成果负责任地沟通问题而设的独立顾问组——称,本次发布包含对「数百个」开放问题的解答。这条记录的意义在于它给出了这一波 AI 做数学最具体量的一个数据点:一次性 722 份文稿、372 个结果族,把「自动解题」从「偶然攻克一题」推进到了「批量产出」的量级;而 AGMAI 的存在本身也说明,学界已被迫设立专门的沟通与规范机制来应对这种规模。

行业#OpenAI

推荐理由:这批「一次 722 份 / 372 结果族」的规模本身就是一个节点,且明确点出由 AGMAI 这个专为负责任发布而设的顾问组背书,信息量足。

TechCrunch · AI精选评分 76

内容审核来了一个开源决策模型:Musubi 的 PolicyLM-1.7B 用 50 毫秒把英文政策套到每条消息上,政策改了不用重新训练

How AI decision models could change content moderation

随着决策模型这一品类在全行业铺开,Musubi 给出了一个新用法:做内容审核。周二它发布了面向实时审核的轻量决策模型 PolicyLM-1.7B,并以开源权重释出。核心思路是把一份用平实英文写就的内容政策,在 50 毫秒内套用到消息上。其定位也很明确:成本与速度接近当下支撑多数社交平台审核的 AI 分类器系统,但因为具备现代 LLM 的灵活性,无需专门训练就能应用复杂政策;而更重要的是政策变更时不需要重新训练,人类制定政策的人可以想改多少次就改多少次。Musubi 联合创始人兼首席 AI 官 Filip Jankovic 的看法是,这给平台管理者一条主动为内容打标签的路:「产品团队只想更好地理解自己平台上正在发生什么,尤其是在内容量指数级增长的现在——能把这些以可扩展、可定制的方式都打上标签,极其有用。」文章同时把这一品类讲清:自 9 月 TypeSafe AI 的 Jev 发布、随后 OpenAI 与Amazon推出竞争性的决策模型之后,决策模型成了 AI 圈的热门话题;它不输出文本而是输出结果概率,在审核这一场景里输出的是二元判断(内容属于该类别还是不属于)。把输出限制在一组预定选项内,使决策模型能比 LLM 更快更便宜地运行,同时保住 transformer 架构的灵活性。一个早期用例是管住 AI 智能体的越轨行为——那么把同样的技术用于人类的越轨行为也就顺理成章。值得注意的是,Jankovic 说自己对决策模型的兴趣早于 Jev,可追溯到 2024 年一个叫 GLiNER(通用命名实体识别模型)的项目,那里面用了许多相同技术。公司并不忌讳与 Jev 相比较,反而乐见这波关注替内容审核引来注意:「如果 Jev 引起了你的注意,PolicyLM-1.7B 就是同一类模型,专为内容审核训练,你可以自己跑起来。」

模型#Musubi

推荐理由:决策模型这一新品类少见的落地应用,开源权重 + 50 毫秒 + 「政策改了不用重训」三条都是工程上可直接评估的口径。

第 1 / 2 页 · 共 37 条

主题由这一份内容包的词表定义(标签词与判定抽出来的分类、主体对词), 读数与「精选」那一屏同一把尺子。范围始终只有当前工作区的行业包。