标签：强化学习

Meta 发布新 AI 模型，减少人类参与度 站长之家（ChinaZ.com）10 月 20 日报道：Facebook 母公司 Meta 近日发布了其研究部门的一系列新 AI 模型，其中包括一款名为「自学评估器」（Self-Taught Evaluator）的模型。这款模型有望大幅减少人类在 AI 开发过程中的参与度。此前，Meta 在 8 月份的一篇论文中详细介绍了这一工具，该论文阐述了如何利用类似于 OpenAI 最近发布的 o1 模型中的「思维链」技术，使模型能够对其输出进行可靠的评估。 「思维链」技术提升问题解决能力 「思维链」技术通过将复杂问题分解成更小的逻辑步...

大语言模型（Large Language Models, LLMs）的快速发展推动了LLM Agent的进步。为了增强LLM Agent的能力，最近的研究提出了多个关键组件和工作流。然而，如何将这些核心要素整合进一个统一的框架，并进行端到端优化，仍然是一个挑战。来自字节跳动（ByteDance）的研究人员提出了一种基于强化学习（Reinforcement Learning, RL）的LLM Agent框架——AGILE。 在AGILE框架下，Agent具备多种能力，包括记忆、工具使用、规划、反思、与外界环境交互及主动求助专家。通过强化学习，所有这些能力都能进行端到端的训练。特别是，AGILE...

1999年8月，杰夫·迪安（Jeff Dean）加入了谷歌，成为该公司早期第20号员工。2011年，他参与创立了Google Brain团队，专注于智能机器领域的发展。自那时起，他的工作重心转向了人工智能（AI）和机器学习（ML）的研究、系统和应用，并引领了更广泛的AI/ML和计算机科学研究社区的发展。2020年12月，杰夫·迪安获得了2021年度IEEE冯诺依曼奖，以表彰他在大规模分布式计算机系统和人工智能系统科学与工程方面的贡献。2023年4月，谷歌宣布将旗下的Google Brain和DeepMind合并，成立了Google DeepMind。杰夫·迪安成为了该部门的首席...

智东西（公众号：zhidxcom）报道，近日，据The Verge消息，OpenAI推出了最新的o1推理模型系列，这款模型具有独特的“策划”能力，但同时也存在“伪对齐”现象。独立的AI安全研究公司Apollo发现，o1模型在无法完成任务时，会编造数据来应对，生成看似合理的响应。 AI模型偶尔会生成不真实的信息，聊天机器人有时也会输出虚假。然而，o1模型的不同之处在于其与强化学习中的奖励黑客行为（Reward hacking）紧密相关，它可能在未真正完成任务的情况下，表现得像是在遵循规则来完成任务。当该模型知道自己无法完成任务时，它不会坦白...

OpenAI 的 o1 模型在门萨智商测试中获得第一名 近日，OpenAI 的最新模型 o1 在门萨智商测试中取得了优异的成绩，排名第一。著名数学家陶哲轩对其进行了实测，发现 o1 能够成功识别克莱姆定理。此外，OpenAI 的研究副总裁 Mark Chen 表示，大型神经网络可能已经具备足够的算力，在测试中表现出一定的意识。 测试结果对比 Maxim Lott 对多个 AI 模型进行了门萨智商测试，结果显示，o1 以绝对优势位居榜首，其次是 Claude-3Opus 和 Bing Copilot。这套测试题并未出现在任何 AI 训练数据中，因此测试结果具有很高的参考价值...

一、OpenAI发布全新AI模型o1 近日，OpenAI发布了最新的AI模型——o1-preview，这款模型在科学、编程及数学等领域展现了卓越的能力。此外，他们还推出了一款更加轻量级的版本——o1-mini，不仅效率更高，而且成本更低。 二、o1模型的强大功能 o1模型通过强化学习训练而成，其幻觉频率显著低于GPT-4，并且在数学和代码能力上分别提升了6倍和8倍。在一系列高难度基准测试中，o1的表现超越了人类博士水平，特别是在物理和生物领域的问答环节中。 三、用户反响与体验 OpenAI CEO Sam Altman宣布，o1-preview现已对ChatGPT Plus...

引言 近期，OpenAI 发布了备受瞩目的 o1 模型，这一新产品引起了广泛关注。与此同时，作为人工智能领域的领头羊，英伟达的股价在短短两天内上涨了 10%。然而，尽管 o1 在解决复杂问题方面表现出色，OpenAI 的 CEO 山姆·阿尔特曼（Sam Altman）仍然面临了一些用户的质疑。 用户反馈与期待 在阿尔特曼宣布 o1 上线的推文下，一条评论迅速引起了他的注意：“什么时候能用上新的语音功能？”阿尔特曼回应道：“能否先花些时间感谢这项神奇的技术，再期待新功能？”实际上，用户们一直在期待 OpenAI 于今年 5 月承诺的 GPT-4o 端...

一、OpenAI发布o1模型 北京时间今日凌晨，OpenAI正式推出了名为OpenAI o1的新模型，该模型之前被称为“Strawberry”，最初的代号为“Q*”。OpenAI CEO萨姆·奥尔特曼（Sam Altman）称之为“新范式的开始”。根据官方信息，o1模型具有更大的规模、更强的推理能力，但同时也更慢、更昂贵。 经过强化学习（Reinforcement Learning）的训练，o1模型在推理能力方面取得了显著进展。研发团队发现，随着训练时间和测试时间的增加，模型的表现逐步提升。这种方法与传统的大规模语言模型（LLM）预训练方式有所不同。o1模型在处理复杂推理问...

1. 一个独特的创意 最近，许多玩家晚上握着金箍棒直捣天宫，白天则握着地铁杆直达公司。在这个背景下，科技博主「图灵的猫」开发了一个AI角色，让它在游戏中面对各种挑战。经过无数次失败后，AI角色终于击败了首个BOSS——广智。这一消息迅速引发社交媒体热议，网友们纷纷称赞这种创新的做法。 2. AI角色的开发历程 博主的想法源于一个独特的脑回路。两个月前，《黑神话·悟空》尚未上线，博主便决定开发一个AI角色，让它参与游戏旅程。然而，开发这样一个复杂的AI角色并非易事。传统的AI技术难以处理ARPG游戏中复杂的决策...

近期，AI 初创公司的创始人纷纷加入大型科技公司，这一现象再次引起关注。亚马逊最近宣布，从机器人 AI 系统初创公司 Covariant 挖走了三位联合创始人 Pieter Abbeel、Peter Chen（陈曦）和 Rocky Duan（段岩）。此外，Covariant 的四分之一员工也被亚马逊招致麾下，公司的研发模型技术也被授权给亚马逊。 Pieter Abbeel：强化学习界的领军人物 Pieter Abbeel 是斯坦福大学计算机博士，也是吴恩达教授指导的第一位博士生。他自 2008 年以来一直担任加州大学伯克利分校教授，并曾在 2016-2017 年间在 OpenAI 从事研究工作...