标签:EXO Labs

Llama 2 在 Windows 98 奔腾 II 上成功运行:每秒39个token,探索26年前的老年机如何支持现代人工智能普及

让 Llama 2 在 Windows 98 奔腾 II 上成功运行 最近,EXO Labs 成功地让 Llama 2 模型在一台 26 年前的硬件上运行,这台机器配备了英特尔奔腾 II CPU 和 128MB 的内存。令人惊讶的是,模型的输出速度达到了每秒 39.31 个 token。这项实验不仅展示了 Llama 模型的强大适应性,还证明了即使在资源极其有限的情况下,现代人工智能模型仍然可以运行。 EXO Labs 的使命与背景 EXO Labs 是一个由牛津大学研究人员和工程师组成的组织,成立于今年 9 月,其使命是“让人工智能普及大众”。该组织认为,少数几家大公司控制人工智能...

26年前的Windows 98古董电脑成功运行大型语言模型:EXO Labs推动人工智能普及,搭载奔腾II处理器和128MB内存,再现BitNet时代辉煌

运行 Windows 98 的奔腾 II 电脑成功运行大型语言模型 近日,一个名为 EXO Labs 的组织在社交媒体上发布了一段视频,展示了在一台拥有 26 年历史的奔腾 II 电脑(配备 128MB 内存)上成功运行大型语言模型(LLM)的过程。这台古老的 350MHz Elonex 奔腾 II 电脑运行了基于 Andrej Karpathy 开发的 Llama2.c 定制纯 C 推理引擎,并生成了一个关于“Sleepy Joe”的故事。令人惊讶的是,整个过程非常流畅,故事生成速度也相当可观。 EXO Labs 的愿景与使命 EXO Labs 由牛津大学的研究人员和工程师组成,致力于“普及人工智能”。...