曝OpenAI超级对齐团队解散！

OpenAI的超级对齐团队，专注于AI安全和控制超智能系统的研究，近期遭遇重大挫折。团队负责人Ilya Sutskever和Jan Leike相继离职，引发关注。Jan Leike在社交平台上表示，离职原因在于与OpenAI高层在安全优先级和资源分配上的分歧。他认为公司在追求产品的同时忽视了安全文化的建设。OpenAI CEO Sam Altman回应，将继续致力于安全研究。

过去几个月，OpenAI失去多名关注AI安全的员工，其中包括至少7名关键成员。超级对齐团队已被解散，剩余成员或将被整合到其他项目中。前团队成员的离职显示出对OpenAI安全方向的担忧，特别是对Altiman领导下的决策缺乏信心。此外，有传言称，OpenAI在技术突破后可能面临潜在危险，导致某些员工离职。

现在，OpenAI的安全研究将由联合创始人John Schulman接手，而原超级对齐团队则分散到公司各处。尽管OpenAI承诺对AI安全的投入，但未来如何确保AI安全仍存在不确定性。

本文来源：