标签：人工智能安全

在7月21日的消息中，全球结构化信息标准推动者——非盈利机构OASIS Open，宣布成立了一项名为CoSAI（Coalition for Secure AI）的安全联盟，旨在提升人工智能领域的安全性。该联盟由科技巨头如微软、英伟达、英特尔、谷歌、OpenAI、IBM、亚马逊和思科等共同发起。CoSAI的主要目标是与学术界联手，针对AI软件供应链安全、网络安全以及AI治理安全这三个关键领域展开工作。 据IT之家了解，CoSAI将与Frontier Model Forum、Partnership on AI、Open Source Security Foundation和ML Commons等专注于AI安全的组织合作，共同推进“负...

在近日的阿斯彭安全论坛活动中，一众科技巨头如谷歌、微软、OpenAI、亚马逊、英伟达及英特尔等14家人工智能领域的领军企业共同宣布成立安全人工智能联盟（Coalition for Secure AI，简称CoSAI）。该联盟由OASIS全球标准组织主办，以开源计划的形式存在，目标是为AI从业者和开发者提供构建安全AI系统的指导和支持。CoSAI将创建一个合作平台，分享开源方法、标准框架和工具，旨在提升整个AI行业的安全性。 CoSAI的初创赞助商阵容强大，包括谷歌、IBM、英特尔、微软、英伟达和PayPal等。此外，亚马逊、Anthropic、思科、Chaing...

伊利亚·苏茨克弗，前OpenAI首席科学家，近日宣布创立新公司SSI（Safe SuperIntelligence），专注于研发安全的超级智能技术。这家初创公司的目标是解决人工智能的安全性和能力问题，通过创新工程和科学突破来实现这一目标。SSI团队将由顶级工程师和研究人员组成，致力于单一焦点，即构建安全的超级智能。目前，团队包括伊利亚本人以及两位合作伙伴，丹尼尔·格罗斯和丹尼尔·利维。丹尼尔·格罗斯是哈佛毕业生，曾被《时代100》杂志评为人工智能领域最具影响力人物之一，而丹尼尔·利维则有斯坦福背景并在谷歌任职过。尽管目前团...

OpenAI近期迎来了一位重量级新成员——Paul M. Nakasone，他是一位美国陆军退役四星上将，曾任美国网络司令部司令、国家安全局局长及中央安全局局长。Nakasone的加入旨在利用其丰富的网络安全实战经验，为OpenAI的ChatGPT、GPT-4以及其他正在研发的先进模型提供安全保障，确保用户数据隐私和网络安全性。这一举措是对OpenAI致力于正确发展人工智能（AGI）的有力证明。 在此之前，OpenAI遭遇了联合创始人Ilya Sutskever和安全主管Jan Leike的离职，这对产品安全产生了负面影响。Jan Leike甚至公开批评OpenAI忽视产品安全，过于...

OpenAI，著名人工智能研究实验室，近期面临一系列挑战，包括其首席科学家Ilya Sutskever和超级对齐团队共同领导者Jan Leike的离职。这一事件引发了对其重视技术进步而非安全性的质疑。Sutskever和Leike的离开，使得原本致力于确保AI与人类目标一致性的超级对齐团队解散。离职原因部分归咎于OpenAI首席执行官Sam Altman的领导风格。据称，Altman对快速推进AI发展，尤其是通用人工智能（AGI）的追求，可能导致了安全性的忽视。 离职员工Daniel Kokotajlo公开批评OpenAI在接近AGI时未能展现责任感。他指出，更强大的AI系统可能...

随着科技的发展，碳基生命与硅基生命的交叉点出现在AI面试场景中，AI面试成为了今年招聘季的一大亮点。AI技术在求职者和招聘者之间发挥着重要作用，从编写简历、模拟面试到岗位推荐，AI提升了招聘效率，但也引发了安全性与就业歧视的担忧。例如，肯德基的AI招聘系统曾出现安全漏洞，可能导致个人信息泄露和不公平的招聘决策。为应对这些问题，国家出台相关政策以规范AI算法的使用，并推动技术手段的改进，以确保公平性和安全性。 AI面试结合人工智能技术，分析候选人的言语、表情和行为，以量化方式评估人才。这种面试方式...