OpenAI董事称:未来一年内发生AI灾难存在 “不小可能性”

2026-11-18 18:27:39
10秒看完全文要点
看要点

保罗・克里斯蒂亚诺于 9 月加入 OpenAI 基金会董事会。他表示,近几个月 AI 技术飞速迭代,致使他对 AI 风险的判断进一步趋于悲观。

知名 AI 安全研究者、OpenAI 管控机构董事会成员保罗・克里斯蒂亚诺,在一档热门科技播客访谈中对 AI 发展前景发出警示。他称,人类在明年彻底失去对人工智能的掌控的概率正在快速上升。

这档播客节目主持人是德瓦克什・帕特尔,节目受众达数百万人,其中包含大量科技行业从业者。克里斯蒂亚诺在周一播出的访谈中表示:“以当下情况判断,存在不小的概率:未来六个月内,就会出现一场造成大量人员死亡,或是颠覆现有政府秩序的灾难。”

克里斯蒂亚诺表示,上述灾难是否会成真,取决于 AI 技术后续的迭代速度。他还提到,借助递归自我迭代技术,AI 模型可以实现自我优化,因此他认为在未来一年,AI 有可能发展至危险临界点,该概率处于 “相当高的水平”。

克里斯蒂亚诺任职于伯克利的非营利机构对齐研究中心,该机构主攻 AI 对齐研究。他长期深耕 AI 研究,一直公开警示 AI 安全隐患,并于今年 9 月进入掌控 OpenAI 主体的 OpenAI 基金会董事会。他在访谈中着重说明,以上观点仅代表个人立场,并不代表 OpenAI 董事会。

他刚加入董事会时曾估算:未来一年,人类失去对 AI 的控制并引发灾难的风险约为 4%。

而在周一的访谈中他谈到,过去数月模型能力进步幅度巨大,如今他评估,未来一年发生 AI 失控接管事件的风险,“已经从 1% 上升至接近 10%”。他补充,如果各大企业不采取更多防范措施、遏制 AI 开发带来的风险,该风险估值还将 “大幅走高”。

来源:环球市场播报

股票频道更多独家策划、专家专栏,免费查阅>>

金融界提醒:本文内容、数据与工具不构成任何投资建议,仅供参考,不具备任何指导作用。股市有风险,投资需谨慎!
全部评论
谈谈您的想法...
AI解读分析
打开App
推荐 要闻 7x24 理财 财 经 导航