一位即将离职的 OpenAI 主管安全问题的高管在离职时引发了人们对公司的担忧。

Jan Leike本周辞去领导该公司“超级联盟”团队的职务，他在 X周五的一个帖子中表示，他不同意 OpenAI 领导层的“核心优先事项”，并且已经“达到了临界点”。

“对齐”或“超级对齐”是人工智能领域中使用的术语，指训练人工智能系统在人类需求和优先事项范围内运行的工作。 Leike 于 2021 年加入 OpenAI，去年夏天该公司宣布他将共同领导 Superalignment 团队，专注于“科学和技术突破，以引导和控制比我们更智能的人工智能系统”。

然而，雷克周五表示，近几个月来，该团队资源不足，“逆风航行”。

他在 X 上表示：“有时我们在计算方面遇到困难，完成这项重要研究变得越来越困难。”他补充说，周四是他在这家初创公司的最后一天。 “建造比人类更聪明的机器本质上是一项危险的工作……但在过去的几年里，安全文化和流程已经让位于闪亮的产品。”

Leike 周三宣布退出，正值 OpenAI 进行更广泛的领导层洗牌之际。在他辞职之前，OpenAI 联合创始人兼首席科学家 Ilya Sutskever 周二宣布他将离开公司，Ilya Sutskever 也帮助领导了超级对齐团队。

苏茨克维尔表示，他将离开去从事一个“对我个人来说非常有意义的项目”。但他的退出值得注意，因为他在去年 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 戏剧性的解雇和回归中发挥了核心作用，当时他投票罢免了奥尔特曼的首席执行官和董事会主席职务。

CNN 撰稿人 Kara Swisher 此前报道称，Sutskever 一直担心 Altman 将人工智能技术推向“太远、太快”。但在奥特曼被赶下台几天后，苏茨克维尔改变了主意：他签署了一封员工信，呼吁整个董事会辞职并让奥特曼回归。

尽管如此，在奥特曼重新控制公司的 几个月里，有关如何以及多快开发和公开发布人工智能技术的问题可能继续在公司内部造成紧张局势。在 OpenAI 本周宣布将通过 ChatGPT 免费向公众提供迄今为止最强大的人工智能模型 GPT-4o 后，高管退出。该技术将使 ChatGPT 更像一个数字个人助理，能够进行实时语音对话。

“我认为，我们应该将更多的带宽花在为下一代模型做好准备上，涉及安全、监控、准备、安全、对抗鲁棒性、（超级）一致性、保密性、社会影响和相关主题，”雷克在书中写道。周五他的 X 话题。 “这些问题很难解决，我担心我们无法实现这一目标。”

当被要求对 Leike 的说法发表评论时，OpenAI 将 CNN 引向 Altman 的 X 帖子，称该公司致力于安全。

“我非常感谢 @janleike 对 openai 的一致性研究和安全文化做出的贡献，看到他离开我感到非常难过，”Altman 说。 “他是对的，我们还有很多事情要做；我们致力于这样做。未来几天我会写一篇更长的文章。”

以上信息内容由tmgm官网搜集整理，不对新闻内容负法律责任，并不作为投资依据和建议，请tmgm官网受众谨慎决策，避免损失。TMGM官网感谢您的观看！