科技巨头联手：安全人工智能联盟(CoSAI)启动开源计划，共筑AI安全新长城

在近日的阿斯彭安全论坛活动中，一众科技巨头如谷歌、微软、OpenAI、亚马逊、英伟达及英特尔等14家人工智能领域的领军企业共同宣布成立安全人工智能联盟（Coalition for Secure AI，简称CoSAI）。该联盟由OASIS全球标准组织主办，以开源计划的形式存在，目标是为AI从业者和开发者提供构建安全AI系统的指导和支持。CoSAI将创建一个合作平台，分享开源方法、标准框架和工具，旨在提升整个AI行业的安全性。

CoSAI的初创赞助商阵容强大，包括谷歌、IBM、英特尔、微软、英伟达和PayPal等。此外，亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI和Wiz等也是创始成员。该联盟初期将聚焦三大任务：制定AI安全最佳实践、应对AI领域的挑战以及保障AI应用的安全性。其工作内容涵盖AI系统的安全构建、集成、部署和运行，特别关注防范模型盗取、数据污染、指令注入、滥用及推理攻击等问题。

CoSAI是一个开放的社区，由项目理事会和技术指导委员会引领，前者负责推进技术议程，后者由学术界和工业界的人工智能专家构成，监督工作流程。谷歌安全副总裁希瑟·阿德金斯在声明中表示，AI的发展既带来了防御者的潜力，也给对手创造了机会。CoSAI将助力各类组织安全且负责任地融入AI，以发挥其优势并降低风险。

请注意，本文中提及的外部链接仅用于传递信息，方便读者，不代表对内容的背书或保证。

本文来源： IT之家【阅读原文】