Lilian Weng，OpenAI 的首席安全研究员兼研究与安全副总裁，于本周五宣布将离开这家知名的人工智能初创公司。Weng 自 2018 年加入 OpenAI，曾在多个关键岗位上任职，包括安全系统团队负责人。她在 X 平台上发表了一篇帖子，表达了对团队和公司成就的自豪，并表示将在 11 月 15 日正式离职。
Weng 的贡献
- 机器人团队：Weng 最初加入 OpenAI 时参与了机器人团队的工作，该团队成功开发了一只能解决魔方的机器人手，这项任务历时两年才完成。
- 应用 AI 研究团队：2021 年，Weng 转岗至应用 AI 研究团队，帮助组建了该团队。
- 安全系统团队：GPT-4 发布后，Weng 被任命为安全系统团队的负责人，该团队目前拥有超过 80 名科学家、研究人员和政策专家。
离职原因
尽管 Weng 没有详细说明离职的具体原因，但她表示这是一个极其艰难的决定。她的离职标志着过去一年中多位 AI 安全研究人员、政策研究人员和其他高管离开 OpenAI 的最新一例。一些离职者公开表示，OpenAI 更加注重商业产品而非 AI 安全。
其他重要离职
- Ilya Sutskever：OpenAI 的联合创始人之一，今年早些时候离职。
- Jan Leike：OpenAI 超对齐团队的领导者，今年早些时候离职，加入了 Anthropic。
- Miles Brundage：长期政策研究人员，10 月离职，并宣布 OpenAI 正在解散其 AGI 准备团队。
- Suchir Balaji：前 OpenAI 研究员，因认为公司的技术对社会带来的危害大于益处而离职。
公司回应
OpenAI 发言人在一份声明中表示：“我们深切感谢 Lilian 在突破性安全研究和构建严格技术保障方面的贡献。我们相信安全系统团队将继续在确保我们的系统安全可靠方面发挥关键作用，服务于全球数亿人。”
最近的高管变动
- 首席技术官 Mira Murati
- 首席研究官 Bob McGrew
- 研究副总裁 Barret Zoph
- 著名研究员 Andrej Karpathy
- 联合创始人 John Schulman
这些高管和技术领导者的离职引发了外界对 OpenAI 发展方向和内部管理的广泛讨论。尽管如此，OpenAI 仍然在 AI 领域保持着领先地位，并继续致力于开发安全可靠的技术。
Lilian Weng 的离职不仅是 OpenAI 近期一系列高层变动的一部分，也是 AI 行业内对安全和伦理问题日益关注的一个缩影。未来，OpenAI 如何平衡技术创新与安全责任，将是其继续发展的关键。