标签：英特尔至强

金融大模型的可靠性受到质疑，因巴菲特公司股价因技术故障骤降，凸显出传统软件问题可能引发的重大影响。金融领域已开始广泛应用AI大模型，但面临数据隐私、安全、可解释性、实时性及资源消耗等挑战。金融科技公司金证通过组合式AI策略，结合大模型、小模型和工具，解决了部分问题。金证的K-GPT模型在金融数据查询和理解上表现出色，且与英特尔合作，采用基于CPU的大模型推理方案，利用至强® CPU Max系列的高带宽内存和英特尔® AMX技术，实现了高效推理。此外，英特尔提供的软件工具如OpenVINO™和优化版Faiss进一步提升了性...