标签：Transformers架构

新一代人工智能的焦点——测试时间训练模型（TTT）正崭露头角，作为对Transformers架构的革新。Transformers，如OpenAI的Sora、Anthropic的Claude和谷歌的Gemini等模型的基础，虽然强大，但在处理大规模数据时面临计算效率低下的挑战。随着硬件需求的飙升，企业和环境可持续性面临压力。TTT模型应运而生，由斯坦福大学、加州大学圣地亚哥分校、伯克利分校和Meta的研究团队共同研发，历时一年半。TTT不仅能处理更多数据，而且计算能耗显著降低。 Transformers的核心是隐藏状态，一种存储处理内容的查找表。然而，这种设计使得...