标签:Phi-4
微软推出下一代140亿参数小模型Phi-4,数学性能超越GPT-4
微软近日正式发布了其下一代小型语言模型Phi-4,该模型拥有140亿参数,并且在数学性能上显著超越了GPT-4和Gemini Pro 1.5等竞争对手。根据最新发布的36页技术报告,Phi-4不仅在GPQA和MATH基准测试中表现出色,还在2024年ACM数学竞赛问题上取得了91.8%的准确率。 Phi-4的技术突破与优势 Phi-4的成功主要归功于三大核心技术突破: 1. 合成数据的广泛应用:Phi-4在训练过程中使用了高达40%的合成数据,这些数据通过多智能体提示、自修订工作流和指令反转等技术生成,构建了一个高效的推理和问题解决能力的数据集。 2. 高质量有...
微软研究发布Phi-4:创新训练方法打造的小参数模型,利用高质量合成数据超越GPT-4性能
微软研究院近日推出了最新一代的小参数模型——Phi-4。作为Phi系列的第五代产品,Phi-4依然保持了小参数的特点,仅有140亿参数。尽管参数量较小,但Phi-4在多个基准测试中表现出色,尤其是在GPQA研究生水平和MATH数学基准测试中,分别取得了56.1%和80.4%的成绩,超越了GPT-4o、Qwen2.5-14B和Llama-3.3-70B等知名模型。在美国数学竞赛AMC的测试中,Phi-4更是取得了91.8分的优异成绩,超过了GeminiPro1.5、GPT-4o、Claude3.5Sonnet和Qwen2.5等模型,甚至在整体性能上可与4050亿参数的Llama-3.1相媲美。 Phi-4之所以能够以如此小...