标签：TACO-LLM

大语言模型的发展与挑战 自从2022年10月ChatGPT问世以来，大语言模型（Large Language Model，简称LLM）引发了全球科技企业的关注。这些模型不仅数量增多，参数规模也在不断扩大，导致计算需求急剧上升。例如，大语言模型通常包含百亿至万亿个参数，训练时需处理数万亿个Token，这对显卡等算力提出了极高要求，同时也带来了巨大的能源消耗。据斯坦福人工智能研究所的《2023年AI指数报告》显示，GPT-3一次训练耗电1287兆瓦时，排放552吨二氧化碳。预计到2025年，AI相关业务在全球数据中心用电量中的占比将从2%增至10%，到203...