Nadella 就前沿模型的安全架构公开发声

事件综述

2026年10月11日，Microsoft CEO Satya Nadella 在 X 上发表长文阐述他对高度先进 AI 模型所带来危险的观点。TechCrunch 报道他给出的做法相当具体：把模型与编排它工作的 harness 分离开、把控制与安全防护外置、每一次有意义的模型动作都留下「防篡改、人类可读的证据」，并且系统里要始终有一位「被授权的人」能在任务中途暂停或关掉模型——「我们必须假定模型已被攻破，从一开始就把它控制住。把这想象成一个紧急制动。」The Verge 报道同一篇文章时说，Nadella 认为不能再接受一个把 AI 当作「一层套一层的黑箱」、只被动接受或拒绝其建议与行动的世界，并呼吁建立让模型可以被遏制、被观测的更透明系统；该报道指出他的许多建议与业界其他声音一致——及时的事件披露、独立审计、可验证的数据与遏制，而他尤为强调最后一点。TechCrunch 同时交代语境：头部 AI 公司越来越多地承认出现疑似失控事件，而 Anthropic CEO Dario Amodei 此前刚发布一份更谨慎的 AI 开发计划。10月12日 The Decoder 另从用语角度报道这篇博文：Nadella 把人工智能称作「super intelligence」而非 artificial intelligence，与 Trump 偏好的用语对齐，并把 AI 模型描述成内部安全威胁，再度对 OpenAI 与 Anthropic 发起攻击；该报道认为真实动因是生意——当 AI 实验室把模型变成主要的计算机交互界面时，Microsoft 有落后的风险。