OpenAI员工发公开信警告“严重风险”，呼吁保护举报人

在6月5日，一份名为《对人工智能提出警告的权利》的公开信引起了广泛关注，由人工智能领域的知名公司现任和前任员工共同签署。这封信揭示了AI行业内部存在的安全隐患和缺乏监管的问题，同时呼吁加强保护举报人。签署者包括11位OpenAI的在职和离职员工以及2位来自谷歌DeepMind的员工。信中指出，AI公司拥有大量未公开的信息，这些信息关乎系统的安全性和潜在风险，但目前公司仅有限地与政府分享，而不与民间社会共享。OpenAI对此进行了辩护，强调已有举报机制和谨慎发布新科技的政策。尽管如此，员工们担心缺乏监督可能导致社会危害的加剧。这封公开信首次由《纽约时报》报道，提出了四条关于透明度和问责制的原则，包括禁止强制员工签署保密协议以掩盖AI风险。此外，还提议设立匿名举报机制。近期，OpenAI的两位高级员工辞职，其中一位批评公司放弃了安全优先的文化。这封公开信进一步强调了企业需要对运营透明化的责任。

本文来源： iFeng科技【阅读原文】