深度 | 超对齐团队瓦解，OpenAI不再重视安全，无人再拦Sam Altman的野心？

文章预览

OpenAI 的超对齐团队负责开发管理和引导“超智能”人工智能系统的方法 ，据该团队的一名成员透露，他们曾被承诺获得公司 20%的计算资源。 但是，他们经常被拒绝提出的计算资源请求，导致团队无法开展工作。 这个问题以及其他问题促使几名团队成员本周辞职 ，包括联合负责人 Jan Leike，他是前 DeepMind 研究员，在 OpenAI 期间参与了 ChatGPT、GPT-4 和 ChatGPT 的前身 InstructGPT 的开发。 莱克在周五早上公开了他辞职的一些原因。莱克在 X 上的一系列帖子中写道：“我与 OpenAI 领导层在公司的核心优先事项上存在分歧已经有一段时间了，直到我们最终达到了一个破裂点。” “我相信我们应该花费更多的带宽来为下一代模型做准备，包括安全性、监控、应对准备、安全性、对抗鲁棒性、（超级）对齐、保密性、社会影响等相关主题。这些问题很难解决，我 ………………………………