标签:AI部署
谷歌震撼发布Gemma 2:270亿参数开源AI模型,极致推理效率引领业界,轻松运行于A100 / H100 GPU
谷歌近日向全球的研究者和开发者推出了全新的Gemma 2大语言模型,该模型具有两个版本,分别拥有90亿和270亿参数,相较于前一代,它在性能和效率上有了显著提升,同时在安全特性上取得了重要进展。据谷歌介绍,Gemma 2-27B模型的性能可与双倍规模的主流模型匹敌,但只需一片英伟达H100 Tensor Core GPU或TPU主机即可支持,大大降低了部署成本。对于资源有限的环境,谷歌即将推出26亿参数的Gemma 2模型,特别适合智能手机等AI应用。 Gemma 2的架构经过全面优化,旨在提供出色的性能和推理效率。27B版本在同类产品中表现出色,...