标签:清程极智
国产大模型突破:清华团队推出基于国产芯片的清程极智赤兔引擎,大幅提升大模型推理引擎效率,FP8模型适配更灵活,DeepSeek推理成本减半速度翻番
随着技术的不断进步,「国产大模型 + 国产引擎 + 国产芯片」的技术闭环正在加速形成。DeepSeek 的推出引发了市场对大模型私有化部署的热烈讨论,而模型部署的效率与成本成为了企业 AI 落地的关键瓶颈。 近日,清华系科创企业清程极智与清华大学翟季冬教授团队联合宣布开源了一款名为「赤兔」(Chitu)的大模型推理引擎。这一引擎首次实现了非 H 卡设备(如英伟达 Hopper 架构之前的 GPU 卡以及各类国产卡)运行原生 FP8 模型的突破。在 A800 集群上的实测数据显示,使用赤兔引擎部署 DeepSeek-671B 满血版推理服务时,相比 ...
智谱再投AI Infra清华系公司!已在大模型生态投资超13家企业
智谱AI,一家在大模型领域表现卓越的公司,近期对清程极智进行了投资,这是一家专注于构建高效人工智能系统软件的清华系企业,主要业务涉及智能芯片系统。清程极智已完成首轮融资,金额达数千万元人民币,投资方包括中金、中关村智友等,其中智谱AI持股2.1673%。此前,智谱AI还投资了同为清华系的无问芯穹,两家公司在AI Infra层面展开竞争。清程极智致力于国产算力智能模型大规模训练平台系统的开发,提供比N卡集群更快、更经济的模型训练和推理系统。公司有两个研发重点,一是兼容英伟达和国产芯片的大规模并行训练框架,...