标签：AI安全

在人工智能领域，ChatGPT的最新进展引发了一场激烈的讨论。据报道，即使是较旧的GPT-3.5和GPT-4模型也成功通过了图灵测试，这一成就打破了人类与AI之间的界限。图灵测试，由艾伦·图灵在1950年提出，是衡量机器是否具有人类智能的标准。然而，随着AI的迅速发展，人类对AI的恐惧似乎超过了兴奋。一项由加州大学进行的研究显示，GPT-4和GPT-3.5在与人类对话中的识别率接近人类自身，仅相差12%。 AI专家周鸿祎表达了对AI灭世论的担忧，指出AI的学习速度远超人类，AI的快速进化可能导致未来超级人工智能（AGI）的出现。尽管如此...

瑞莱智慧（RealAI）近日发布创新产品RealBelieve，中文名为“尊嘟假嘟”，成为全球首款能实时检测人工智能（AI）合成内容的工具，目前正进行内测招募。这款产品不仅允许用户自查图片是否为AI伪造，还能在视频通话中实时鉴别与你交谈的对象是否为真实人物。RealBelieve提供文本、图片、视频和音频等多种格式的文件上传检测，并可通过浏览器插件实现网页浏览时的AI合成内容即时警示。 AI的安全性和可控性已成为全球关注焦点，尤其随着AI能力的增强，相关的安全问题也日益复杂。AI诈骗事件频发，成为全球面临的重大挑战。RealBel...

【新智元报道】OpenAI近期正积极招募高级管理层，以增强组织结构。继新CFO上任后，美国退役陆军上将Paul M. Nakasone成为OpenAI董事会的最新成员，尤其在安全和保障领域发挥作用。Nakasone将在安全和保障委员会任职，为OpenAI的关键安全决策提供咨询，助力公司履行对AI安全的承诺。 OpenAI的董事会阵容日益壮大，包括初始成员和新近加入的业界领袖，如前比尔和梅琳达·盖茨基金会CEO Dr. Sue Desmond-Hellmann、前索尼高管Nicole Seligman，以及Instacart的Fidji Simo等。微软的Dee Templeton则以无投票权观察员身份参与。尽...

OpenAI最近发布了一款名为GPT-4o的全能大模型，展示了其在引领潮流方面的实力。然而，发布会后不久，首席科学家Ilya Sutskever和超级对齐团队负责人Jan Leike相继离职，引发了对公司内部管理的质疑。Jan Leike在社交媒体上透露，他与OpenAI高层在公司优先事项上有重大分歧，特别是关于AI安全的问题被忽视，而公司更注重推出吸引眼球的产品。这场人事动荡被认为是去年公司内部冲突的延续，CEO Sam Altman和总裁Greg Brockman重新掌权。据说，Ilya Sutskever的离职与他对AGI安全的关注与公司加速商业化之间的矛盾有关。OpenAI...

OpenAI的超级对齐团队，专注于AI安全和控制超智能系统的研究，近期遭遇重大挫折。团队负责人Ilya Sutskever和Jan Leike相继离职，引发关注。Jan Leike在社交平台上表示，离职原因在于与OpenAI高层在安全优先级和资源分配上的分歧。他认为公司在追求产品的同时忽视了安全文化的建设。OpenAI CEO Sam Altman回应，将继续致力于安全研究。 过去几个月，OpenAI失去多名关注AI安全的员工，其中包括至少7名关键成员。超级对齐团队已被解散，剩余成员或将被整合到其他项目中。前团队成员的离职显示出对OpenAI安全方向的担忧，特别...

近日，据可靠消息，美国正在筹划设立一个专注于AI安全的全新委员会，旨在强化人工智能在关键领域应用中的安全性。该委员会将聚集众多业界大腕，如英伟达的黄仁勋、OpenAI的山姆·奥特曼、微软的纳德拉和Alphabet的皮查伊等科技巨头的高管，他们的专业知识将为委员会带来坚实的支持。委员会的任务不仅是与美国其他部门合作，还将直接为电力、交通和制造业等行业提供安全指导，以确保在广泛使用AI技术的同时，能有效防范潜在的安全风险和破坏，维护国家的经济安全、公共卫生和关键产业的稳定性。 美国政府对此高度重视，认为AI...