OpenAI安全系统副总裁、北大校友翁荔宣布离职，将更多时间投入AI研究与博客写作

翁荔的技术博客以其深入、细致且具有前瞻性的，成为众多 AI 研究者的宝贵参考资料。近日，她宣布离开 OpenAI，开启了新的职业生涯。她在 X 平台上分享了这一消息，并表示未来可能会有更多时间更新她的博客。

自从 Sam Altman 重新执掌 OpenAI 以来，公司经历了一波接一波的高管离职潮。尽管近期有一些外部新高管的加入，但这股离职潮似乎仍未结束。翁荔在 OpenAI 工作了近 7 年，担任安全系统团队负责人。她在 X 上发布了离职消息，并公开分享了发给团队的离职信，但未透露下一步的职业计划。

翁荔的离职消息引起了广泛关注，许多知名人士和网友纷纷送上祝福。她在 OpenAI 推动了安全相关的研究和实践，她的博客 Lil’Log 也帮助了很多人。以下是她与团队分享的离职信的中文版：

亲爱的朋友们，

经过深思熟虑，我决定离开 OpenAI。11 月 15 日将是我在公司的最后一天。OpenAI 是我成长的地方，我在这里成为了一名科学家和团队领导者。我将永远珍惜与团队成员共事的时光。OpenAI 的团队不仅是我的朋友和老师，也是我身份认同的一部分。

2017 年，OpenAI 的使命吸引了我，一群志同道合的人共同追求一个看似不可能实现的科幻未来。在这里，我从研究全栈机器人难题开始，涉及深度强化学习算法、感知和固件，目标是让机械手学会解魔方。经过两年的努力，我们终于实现了这一目标。

随着 OpenAI 进入 GPT 范式，我组建了第一个应用研究团队，推出了微调 API、嵌入 API 和审核端点的初始版本，为应用安全工作奠定了基础，并为早期 API 客户提供了新的解决方案。GPT-4 发布后，我接受了新的挑战，重新考虑 OpenAI 安全系统的愿景，带领团队构建了一个完整的安全系统栈。这是我职业生涯中最困难、压力最大但也是最激动人心的经历之一。

目前，安全系统团队有超过 80 位优秀的科学家、工程师、产品经理和政策专家。我对团队所取得的成就感到非常自豪。我们一起成为了每次发布的基石，从 GPT-4 及其视觉和 turbo 版本到 GPT Store、语音功能和 o1。我们在训练模型以确保其既强大又负责任方面树立了新的行业标准。特别是在 o1-preview 模型方面，我们取得了显著的成就，这是迄今为止最安全的模型，能够有效抵御越狱攻击。

我们在每次模型发布时都提高了其对抗稳健性，包括防御越狱攻击、指令层次结构和通过推理提升稳健性。我们在透明度方面的承诺体现在详细的安全系统卡中。我们开发了业界领先的多模态审核模型，并免费分享给公众。我们在更通用的监控框架和增强的安全推理能力方面的工作将支持更多的安全工作流。我们还建立了工程开发基础，包括安全数据记录、指标、仪表板、主动学习管道、分类器部署、推理时间过滤和全新的快速响应系统。

回顾我们的成就，我为安全系统团队的每位成员感到骄傲。我相信团队将继续蓬勃发展。我爱你们❤️。

现在，在 OpenAI 工作了 7 年后，我准备迎接新的挑战。OpenAI 正处于快速发展阶段，我希望公司和每一位同事都能顺利前行。

附言：我的博客还会继续更新，未来可能会有更多时间更新博客和编程。

爱你们的，

Lilian

本文来源： 机器之心【阅读原文】