标签:创新训练方法
微软研究发布Phi-4:创新训练方法打造的小参数模型,利用高质量合成数据超越GPT-4性能
微软研究院近日推出了最新一代的小参数模型——Phi-4。作为Phi系列的第五代产品,Phi-4依然保持了小参数的特点,仅有140亿参数。尽管参数量较小,但Phi-4在多个基准测试中表现出色,尤其是在GPQA研究生水平和MATH数学基准测试中,分别取得了56.1%和80.4%的成绩,超越了GPT-4o、Qwen2.5-14B和Llama-3.3-70B等知名模型。在美国数学竞赛AMC的测试中,Phi-4更是取得了91.8分的优异成绩,超过了GeminiPro1.5、GPT-4o、Claude3.5Sonnet和Qwen2.5等模型,甚至在整体性能上可与4050亿参数的Llama-3.1相媲美。 Phi-4之所以能够以如此小...