微软CEO纳德拉呼吁将强大AI模型默认视为可能已遭入侵并设紧急刹车机制

微软CEO纳德拉10月10日（周六）在社交平台发文，呼吁企业把功能强大的AI模型认定为潜在内部威胁，并默认模型可能已遭入侵，同时建立“紧急刹车”机制，防止具备自主行动能力的智能体模型失控。

他写道：“我们必须假定模型已经遭到入侵，并从一开始就对其实施限制。可以把这想象成一个紧急刹车装置。获得授权的人员应当始终能够在模型执行任务的过程中将其暂停或关闭。”

纳德拉提出的安全建议包括：不要依赖单一模型作出关键决策，保留不可篡改的智能体行为记录，让系统接受独立审计。他还呼吁披露重大故障或安全漏洞，要求企业分享事故原因和细节，以便其他企业加强安全防护。

纳德拉还指出，AI模型比传统软件更强大却如同黑盒子，这些复杂的智能体系统和模型已可访问最敏感数据并被赋予执行关键任务的能力，仅靠超级智能自我监控等简单策略并不足够。

市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。