标签:模型测试

OpenAI与Anthropic承诺在发布新模型前交由美国政府进行安全评估:聚焦人工智能的安全协议与模型测试

感谢IT之家网友Diixx提供的线索!近日,人工智能领域的两家领军企业——OpenAI和Anthropic,已与美国政府达成协议,在发布重要的人工智能模型之前,允许美国政府提前访问这些模型,以增强其安全性。图源:Pexels。 美国人工智能安全研究所(US AI Safety Institute)于周四宣布,这两家公司已与该研究所签订了谅解备忘录,承诺在模型正式发布前后向研究所提供访问权限。美国政府表示,此举有助于双方共同评估和缓解潜在的安全风险。该研究所还表示,将与英国的相关机构合作,提供安全改进方面的反馈意见。 OpenAI首席战略官J...