金融大模型遭遇技术挑战：AI与数据隐私问题，英特尔至强处理器如何保障组合式AI的可靠性?

金融大模型的可靠性受到质疑，因巴菲特公司股价因技术故障骤降，凸显出传统软件问题可能引发的重大影响。金融领域已开始广泛应用AI大模型，但面临数据隐私、安全、可解释性、实时性及资源消耗等挑战。金融科技公司金证通过组合式AI策略，结合大模型、小模型和工具，解决了部分问题。金证的K-GPT模型在金融数据查询和理解上表现出色，且与英特尔合作，采用基于CPU的大模型推理方案，利用至强® CPU Max系列的高带宽内存和英特尔® AMX技术，实现了高效推理。此外，英特尔提供的软件工具如OpenVINO™和优化版Faiss进一步提升了性能。金证与英特尔的合作展示了大模型在金融领域的落地可能性，同时也强调了在数字化转型中控制成本和提升效率的重要性。

本文来源： 量子位【阅读原文】