标签:安全标准

CoSAI: 人工智能安全先驱,微软、英伟达、Google与行业巨头共建AI治理及安全标准联盟

在7月21日的消息中,全球结构化信息标准推动者——非盈利机构OASIS Open,宣布成立了一项名为CoSAI(Coalition for Secure AI)的安全联盟,旨在提升人工智能领域的安全性。该联盟由科技巨头如微软、英伟达、英特尔、谷歌、OpenAI、IBM、亚马逊和思科等共同发起。CoSAI的主要目标是与学术界联手,针对AI软件供应链安全、网络安全以及AI治理安全这三个关键领域展开工作。 据IT之家了解,CoSAI将与Frontier Model Forum、Partnership on AI、Open Source Security Foundation和ML Commons等专注于AI安全的组织合作,共同推进“负...

中国发布《生成式AI安全基本要求》,涵盖训练数据、生成内容等

全国网络安全标准化技术委员会最近在其官方网站上发布了《网络安全技术 生成式人工智能服务安全基本要求》征求意见稿,旨在强化生成式人工智能开发和应用的安全性。该标准分为三个部分:标准文本、意见汇总处理表和编制说明。标准文本详细规定了训练数据安全、模型安全等方面的要求。公众可以在2024年7月22日前向国家网安标委秘书处提出反馈意见。 2023年7月,我国七部门发布了《生成式人工智能服务管理暂行办法》,为生成式AI的健康发展提供了法规支持。本次发布的标准进一步细化了《办法》中的安全规定,涵盖了网络安全、...