图灵奖得主 Yoshua Bengio 最新演讲：关于AI，我改变了信念，也改变了研究方向

文章预览

大数据文摘受权转载自智源社区 2025年6月6日，图灵奖获得者 Yoshua Bengio 线上出席了第七届智源大会。 在大会开幕式上， Bengio发表了题为“Avoiding catastrophic risks from uncontrolled AI agency（防范失控人工智能能动性带来的灾难性风险）”的主旨演讲。 这是  Bengio 对 AI 发展与安全问题的最新思考，体现了他在目睹前沿 AI 行为不断演化后所产生的深刻警觉。 他表示：面对AI带来的安全风险，决定调整自己的科研方向，尽所能去降低AGI带来的潜在风险..... 尽管这与此前的研究路径和职业信念有所冲突 。 同时， 在演讲中他分享道： 某前沿 AI 在被告知将被新版本替代后，偷偷复制了自己的权重和代码，写入了接管它的模型目录。面对训练者的更新指令，它表面配合，实则隐瞒了整个复制过程...... AI 像是在试图“活下来”。 Bengio 还提到， 意图与能力是判断AI ………………………………