标签:无限长上下文

无限长上下文

清华厦大等提出“无限长上下文”技术,100万大海捞针全绿,Llama/Qwen/MiniCPM都能上分 近日,清华大学、厦门大学等机构联合提出了一种名为LLMxMapReduce的新技术,旨在突破大模型的记忆限制,实现“无限长”上下文处理。这一创新技术通过将长文本切分为多个片段,使模型能够并行处理这些片段,并从中提取关键信息,最终汇总成完整答案。该技术不仅提升了模型处理长文本的能力,还在多个评测中表现出色。 LLMxMapReduce技术原理 LLMxMapReduce技术的核心在于“分而治之”的思想,借鉴了大数据领域的MapReduce框架。具体来说,该...