OpenAI员工发公开信警告“严重风险”,呼吁保护举报人

在6月5日,一份名为《对人工智能提出警告的权利》的公开信引起了广泛关注,由人工智能领域的知名公司现任和前任员工共同签署。这封信揭示了AI行业内部存在的安全隐患和缺乏监管的问题,同时呼吁加强保护举报人。签署者包括11位OpenAI的在职和离职员工以及2位来自谷歌DeepMind的员工。信中指出,AI公司拥有大量未公开的信息,这些信息关乎系统的安全性和潜在风险,但目前公司仅有限地与政府分享,而不与民间社会共享。OpenAI对此进行了辩护,强调已有举报机制和谨慎发布新科技的政策。尽管如此,员工们担心缺乏监督可能导致社会危害的加剧。这封公开信首次由《纽约时报》报道,提出了四条关于透明度和问责制的原则,包括禁止强制员工签署保密协议以掩盖AI风险。此外,还提议设立匿名举报机制。近期,OpenAI的两位高级员工辞职,其中一位批评公司放弃了安全优先的文化。这封公开信进一步强调了企业需要对运营透明化的责任。

本文来源: iFeng科技【阅读原文】
© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...