标签：合成数据

NVIDIA Cosmos平台助力物理AI发展，推动自动驾驶和机器人技术革新 在CES 2025的主题演讲中，NVIDIA创始人兼CEO黄仁勋宣布推出世界基础模型平台Cosmos。该平台旨在解决制约通用机器人及自动驾驶发展的关键问题——训练数据的获取与处理。Cosmos由先进的生成式世界基础模型（WFM）、高级视频tokenizer、护栏机制和加速视频处理流水线组成，并针对NVIDIA数据中心GPU进行了优化，有助于推动自动驾驶汽车、机器人等物理AI系统的发展。 物理AI模型的开发成本高昂，需要大量真实数据和测试。Cosmos使开发者能够轻松生成基于物理学的...

450 美元的价格乍一听不算便宜，但如果这是训练一个拥有 32B 参数的推理模型的成本呢？加州大学伯克利分校的天空计算实验室（NovaSky）最近发布了 Sky-T1-32B-Preview 模型，其训练成本仅为 450 美元。这一成果表明，高级推理能力的开发正变得越来越经济和高效。 开源贡献与技术细节 Sky-T1-32B-Preview 不仅在多个关键基准测试中表现出色，还成为第一个真正开源的推理模型。团队发布了训练数据集、代码和模型权重，任何人都可以轻松复制并改进该模型。这为学术界和开源社区提供了宝贵资源。 成本降低的背后 不久前，训...

微软近日正式发布了其下一代小型语言模型Phi-4，该模型拥有140亿参数，并且在数学性能上显著超越了GPT-4和Gemini Pro 1.5等竞争对手。根据最新发布的36页技术报告，Phi-4不仅在GPQA和MATH基准测试中表现出色，还在2024年ACM数学竞赛问题上取得了91.8%的准确率。 Phi-4的技术突破与优势 Phi-4的成功主要归功于三大核心技术突破： 1. 合成数据的广泛应用：Phi-4在训练过程中使用了高达40%的合成数据，这些数据通过多智能体提示、自修订工作流和指令反转等技术生成，构建了一个高效的推理和问题解决能力的数据集。 2. 高质量有...

Ilya Sutskever 在 NeurIPS 2024 的最新演讲 继李飞飞、Bengio 和何恺明之后，Ilya Sutskever 在 NeurIPS 2024 大会上发表了最新的演讲。尽管演讲时长仅约 15 分钟，但丰富且引人深思。Ilya 在演讲中提出了一些重要的观点，例如：“我们所熟知的预训练即将终结。”对于未来，Ilya 预测：“接下来将是超级智能：代理、推理、理解和自我意识。” 回顾十年技术发展 Ilya 以一张十年前的 PPT 截图开始了他的演讲，那时深度学习还处于探索阶段。2014 年在蒙特利尔，他和他的团队（包括 Oriol Vinyals 和 Quoc Le）首次提出了深度...

Ilya宣判：预训练即将终结！NeurIPS现场沸腾 超级智能是未来 金磊 发自 凹非寺 量子位 | 公众号 QbitAI 在NeurIPS 2024会议上，Ilya Sutskever发表了最新演讲，虽然演讲时间只有15分钟，但极其丰富。Ilya在演讲中提出了一个重要观点：“我们所熟知的预训练即将终结。”同时，他对未来做出了大胆预测：“接下来将是超级智能：代理、推理、理解和自我意识。” 回顾十年技术发展 Ilya以一张十年前的PPT截图开启了演讲，回顾了深度学习从探索阶段到成为AI领域基石的历程。2014年，他在蒙特利尔与团队首次提出了深度学习的核...

引言 近期，Meta、纽约大学及加州大学洛杉矶分校的研究团队发布了一项新研究，揭示了一个令人震惊的现象：即使是少量的合成数据也可能导致大规模语言模型（LLM）性能急剧下降，甚至完全失效。研究指出，当合成数据占比达到1%时，模型的表现就会受到严重影响。更让人担忧的是，模型的参数越多，这种负面影响就越明显。这一发现引发了业界对合成数据在模型训练中的作用和风险的重新评估。 合成数据带来的挑战 “模型崩溃”是指在使用合成数据进行训练的过程中，模型的性能逐渐下降，直至最终失去功能。研究团队通过实验发现...

重塑模型潜力：后训练方法引领技术革新 随着自然语言处理（NLP）领域的迅速发展，大型语言模型（LLM）的研究和应用正经历着前所未前的变革。近期，Allen AI 的机器学习研究员 Nathan Lambert 发表了一篇深度文章，探讨了科技巨头如何利用先进的后训练策略来提升模型性能。这些策略不仅涵盖了模型的微调和对齐，还涉及了数据管理等多个关键环节。 后训练方法的核心要素 根据 Nathan Lambert 博士的分析，当前后训练方法主要围绕四个核心要素展开： 1. 合成数据：高质量的合成数据被认为是优于人类生成数据的关键资源，尤...

随着技术的发展，AI领域正面临着一个前所未有的挑战：“数据墙”。据快科技8月1日的报道，互联网上的高质量数据资源正在迅速枯竭，这给AI大模型公司带来了严峻考验。权威研究机构Epoch AI预测，到2028年，互联网上的所有优质文本数据将被彻底采集；而对于语言数据集而言，这一时刻甚至可能提前至2026年。这无疑给AI行业的快速发展蒙上了一层阴影。 然而，在这一看似悲观的情景中，一些科学家却保持着乐观的态度。他们指出，在语言模型领域，仍然存在大量未被充分利用的数据资源，这些资源富含差异化的信息，有望为构建更加精...

随着Llama 3.1模型的发布，英伟达分享了一篇技术指南，教大家如何有效利用这一强大的开源模型来生成合成数据，特别适用于领域模型或RAG系统的微调。面对“数据墙”的逼近，英伟达推出了拥有340B参数的开源模型Nemotron，预训练数据中有98%都是合成数据，这意味着真实数据的稀缺性可能不再是限制因素。 合成数据的本质与LLM的关系 合成数据并非凭空创造新信息，而是通过对现有信息进行转换来生成不同的变体。这种技术在AI领域已有十多年的历史，例如在物体检测或分类系统中的数据增强。近年来，随着模型对大量训练数据的需求...

随着ChatGPT普及，新型安全对齐技术提升模型安全性 随着ChatGPT等先进语言模型的广泛运用，保障其输出内容的安全性已成为关键挑战。传统的做法依赖于RLHF（基于人类反馈的强化学习）来实现安全对齐，然而这种方式面临两大难题：一是收集并维护人类反馈数据成本高昂，且随着模型能力增强及用户行为变化，现有数据容易迅速过时；二是数据标注者的主观偏见可能导致模型输出产生显著偏差，如曾出现过的种族歧视问题。针对这些问题，OpenAI提出了一种新的安全对齐方法——基于规则的奖励（RBR）。 基于规则的奖励（RBR） RBR将...