Meta与OpenAI的对决:AI开源拐点已至? Llama3.1405B引领多模态AI未来 | 智者访谈

近期,Meta发布了Llama3.1405B,这款开放权重的大模型性能首次媲美顶级封闭模型,标志着AI行业进入了一个重要的转折点。扎克伯格亲自撰文支持“开源AI即未来”的观点,再次引发开源与封闭的讨论。本文采访了AI开源生态专家黄之鹏,探讨AI开源的现状与未来。

开源与封闭的博弈

OpenAI的转变:早期OpenAI遵循非营利模式,开源GPT-1和GPT-2。但在2019年微软注资后,转为商业实体,从GPT-3开始转向闭源。
– 安全与商业考量:尽管官方声称闭源是为了安全,但实际上更多出于商业竞争的考虑。

Google与Meta的战略

– Google的策略:通过开放一系列同源的小型模型来占领市场,如Gemma等。
– Meta的布局:Llama系列的成功打破了OpenAI的垄断,为开发者提供了更多选择,并服务于Meta的核心业务。

AI开源的新趋势

– 动态图支持:未来框架需要同时支持动态图、静态图、生成式模型等。
– 微调挑战:随着模型对知识的压缩越来越高效,留给微调的空间变小。
– Active Inference:一种新的智能定义,强调通过减少实际与预期之间的差异来实现推理。
– 数据代替逻辑:未来的重点在于如何收集和处理数据以适应特定需求。

AI开源生态的未来

多模态进展:原生多模态架构将是发展方向。
– Sparse AutoEncoder (SAE):提高网络可解释性,可能为MoE的角色区分提供基础。
– Neuro + AI与范畴学:两个潜在的颠覆性发展方向。

开源与封闭的本质

– 发展观与悲观主义:开源支持者倾向于积极解决问题,而悲观主义者则担心技术带来的负面影响。
– 中美差异:美国的产业生态协作更为成熟,中国在产业协同方面有待加强。

本文来源: ​机器之心公众号【阅读原文】
© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...