标签:英特尔至强

金融大模型遭遇技术挑战:AI与数据隐私问题,英特尔至强处理器如何保障组合式AI的可靠性?

金融大模型的可靠性受到质疑,因巴菲特公司股价因技术故障骤降,凸显出传统软件问题可能引发的重大影响。金融领域已开始广泛应用AI大模型,但面临数据隐私、安全、可解释性、实时性及资源消耗等挑战。金融科技公司金证通过组合式AI策略,结合大模型、小模型和工具,解决了部分问题。金证的K-GPT模型在金融数据查询和理解上表现出色,且与英特尔合作,采用基于CPU的大模型推理方案,利用至强® CPU Max系列的高带宽内存和英特尔® AMX技术,实现了高效推理。此外,英特尔提供的软件工具如OpenVINO™和优化版Faiss进一步提升了性...