AI·新世界

OpenAI 的长期政策研究员 Miles Brundage 和该公司 AGI 准备团队的高级顾问已于近日离职。Brundage 在周三的 X 帖子和他时事通讯的文章中表示，他认为作为非营利部门的研究员和倡导者，他将产生更大的影响，在那里他将“更有能力自由发表”。

Brundage 解释说：“做出这个艰难决定的部分原因是，在OpenAI工作现在比以往任何时候都是一个极具影响力的机会。OpenAI需要那些对使命深切关心并致力于维持关于开发和部署（包括内部部署，随着时间的推移将变得越来越重要）的严格决策文化的员工。”

人员变动

随着 Brundage 的离职，OpenAI 的经济研究部门（直到最近还是 AGI 准备团队的一个子团队）将移交给 OpenAI 的新首席经济学家 Ronnie Chatterji。Brundage 表示，AGI 准备团队的其余部分——正在逐步结束——将被分配到 OpenAI 的其他部门。任务对齐负责人 Joshua Achiam 将接手 AGI 准备团队的一些项目。

OpenAI 的一位发言人告诉 TechCrunch，公司“完全支持”Brundage 在行业外追求政策研究的决定，并对他的贡献“深表感谢”。

Brundage 的贡献

Brundage 于2018年加入 OpenAI，最初担任研究科学家，后来成为公司的政策研究负责人。在加入 OpenAI 之前，Brundage 是牛津大学人类未来研究所的研究员。在 AGI 准备团队中，Brundage 特别关注语言生成系统（如 ChatGPT）的负责任部署。他还领导了其他倡议，包括 OpenAI 的外部红队测试计划和其首个“系统卡”报告，记录了 AI 模型的能力和局限性。

公司内部的争议

近年来，OpenAI 被多名前员工和董事会成员指责优先考虑商业产品，而牺牲了 AI 安全。在 X 帖子中，Brundage 敦促 OpenAI 员工“畅所欲言”，讨论公司如何做得更好。

他写道：“有些人对我说，他们对我离开感到难过，并感谢我在这里时经常愿意提出担忧或问题……OpenAI有很多艰难的决定要做，如果我们屈服于群体思维，就不会做出正确的决定。”

高层管理人员离职

最近几周，OpenAI 一直在流失高层管理人员，这是对公司方向分歧的顶点。CTO Mira Murati、首席研究官 Bob McGrew 和研究副总裁 Barret Zoph 在9月底宣布辞职。著名研究科学家 Andrej Karpathy 于2月离开 OpenAI；几个月后，OpenAI 联合创始人和前首席科学家 Ilya Sutskever 与前安全负责人 Jan Leike 一起辞职。8月，联合创始人 John Schulman 表示他将离开 OpenAI。公司总裁 Greg Brockman 正在延长休假。

其他争议

周三上午，OpenAI 成为《纽约时报》对前 OpenAI 研究员 Suchir Balaji 报道的对象。Balaji 表示他离开公司是因为他不再想为那些他认为会给社会带来更多危害而非益处的技术做出贡献。Balaji 还指控 OpenAI 未经许可在其模型上训练受知识产权保护的数据，违反了版权——这一指控在集体诉讼中也被其他人针对该组织提出。