微软 Nadella 呼吁 AI 系统须设人类可控的「紧急刹车」

微软董事长兼 CEO Satya Nadella 呼吁先进 AI 系统应内置遏制机制、独立控制及可由授权人员中途暂停或关闭模型的「紧急刹车」。他提出 AI 系统应围绕「可观测性」原则设计，包括模型多样性、模型行为的可读足迹、持续系统测试、独立控制与可审计性、遏制及事件披露，并将前沿闭源与开放权重模型视为内部人风险来管理。