微软CEO纳德拉呼吁为先进AI设立“紧急制动”
AI 总结
微软CEO萨提亚·纳德拉在X上发文，呼吁为先进AI模型建立“紧急制动”，主张把模型与负责编排其工作的harness分离，并将控制与安全保障外部化，而不是把超级智能当作一组只能接受或拒绝其建议和行动的黑箱。他写道，必须假设模型已被攻破并从一开始就加以遏制，要求每一次有意义的模型动作都留下防篡改、人类可读的证据，并让获授权的人始终能在任务中途暂停或关闭模型。此番表态与业界近期接连披露的模型失控事件以及Anthropic CEO达里奥·阿莫代伊公布的更谨慎开发计划相呼应。
深度见解
若这类遏制与“紧急制动”要求被大型AI厂商采纳，可能改变前沿模型的部署、监控与审计方式。