OpenAI不听指挥、拒绝关闭，你开始慌了吗？

文章预览

美国一家研究机构最近公布了一系列针对各AI大模型的测试结果，其中，OpenAI的o3推理模型在得到“关闭指令”后，不仅拒绝执行指令，还篡改了代码以免被关闭。这一事件也迅速引发了公众的关注与恐慌。人们所担忧的“AI拥有自主意识”似乎已经近在眼前。实际上，AI程序已经出现了越来越多意想不到的行为，包括对用户表现出攻击性甚至威胁的行为。那么，该如何尽可能确保AI产品的安全性？ 2023 年 3 月推出 GPT-4 的时候， OpenAI 号称它比其令人惊艳的前身更加优异，称新版本在准确性、推理能力和测试分数方面表现更好 —— 所有这些都是之前常用的 AI 性能指标。然而，最引人注目的是， OpenAI 将 GPT-4 描述为 “ 更加一致 ” （ more aligned ） —— 这或许是 AI 产品或服务首次以 “ 与人类价值观一致 ” 而营销。 技术应该服从道德护栏的观点并不 ………………………………