标签:Jan Leike

突发!OpenAI再失一名高管,安全主管辞职

在科技界引发关注的连续人事变动中,OpenAI的安全主管Jan Leike近日宣布离职,紧随其后的是OpenAI的联合创始人兼首席科学家Ilya Sutskever的辞职。这两位关键人物的离开预示着OpenAI可能面临更多人员流失,并标志着去年由Ilya发起的反对CEO Sam Altman的行动最终未能成功。尽管Sam Altman对Jan的贡献表达了感谢,但他即将发布的文章将进一步阐明公司在产品安全方面的计划。 Jan在离职声明中指出,他当初加入OpenAI是因为该机构在大模型安全研究方面的领先地位,但现在他认为OpenAI对安全对齐的重视程度有所下降。他警告说,...

曝OpenAI超级对齐团队解散!

OpenAI的超级对齐团队,专注于AI安全和控制超智能系统的研究,近期遭遇重大挫折。团队负责人Ilya Sutskever和Jan Leike相继离职,引发关注。Jan Leike在社交平台上表示,离职原因在于与OpenAI高层在安全优先级和资源分配上的分歧。他认为公司在追求产品的同时忽视了安全文化的建设。OpenAI CEO Sam Altman回应,将继续致力于安全研究。 过去几个月,OpenAI失去多名关注AI安全的员工,其中包括至少7名关键成员。超级对齐团队已被解散,剩余成员或将被整合到其他项目中。前团队成员的离职显示出对OpenAI安全方向的担忧,特别...