惊人!利用老旧iOS、iPadOS及macOS设备构建异构集群,实现高效AI推理——Llama3模型在Cake框架下的Android与iOS平台新突破

如果你有闲置的电子设备,现在可以将它们派上新用场,尝试构建一个AI领域的创新应用。通过组合iPhone、iPad、Macbook,甚至Windows或Linux系统,你可以搭建一个“异构集群推理方案”,高效运行复杂的Llama3模型。这个方案不仅支持iOS,未来还将兼容Android。项目开发者@evilsocke...

AMD新纪元:初创企业挑战CUDA,实现Spectral Compute的HIP编译,直接运行原生程序,性能扩展无界

随着初创公司Spectral Compute的崭新登场,他们推出了一项创新技术,让AMD显卡也能原生运行CUDA程序。这款名为SCALE的工具不仅登上HackerNews热门榜单,还声称提供免费的商业使用。SCALE是一个GPGPU编程工具包,允许AMD用户无需修改代码即可运行CUDA程序,包括内联PTX在内的英...

AI模型遭遇常识挑战:数字比较出错,9.11与9.9大小分辨,tokenizer与角色扮演提示揭示问题所在

在人工智能的世界里,即使是最新最先进的模型也可能面临尴尬的挑战。近期,一些顶级大模型在面对“9.11 和 9.9 哪个大”的简单问题时,竟然给出了错误的答案。GPT-4o 和谷歌的 Gemini Advanced 付费版都认为 9.11 更大,而 Claude 3.5 Sonnet 提供了荒谬的计算方法。这个问题揭示...

AI芯片市场升温,NVIDIA CUDA软件引领创新,面临反垄断调查:法国确认调查其市场主导地位

在最新的科技行业动态中,法国竞争管理局正对知名图形处理器制造商NVIDIA展开一项深入的反垄断调查。据7月15日的官方声明,该机构主席Benoit Coeure表明,若NVIDIA在调查中被证实存在不当行为,公司将面临正式的法律指控。此次调查的起因是去年针对“显卡产业”企业的突击检查,...

AI大模型驱动的可穿戴设备市场:Ray-Ban Meta智能眼镜如何满足实用性与市场需求

在2024年,人工智能(AI)硬件领域迎来重大突破,特别是AI可穿戴设备,如AI手机、AI手表、AI智能眼镜和AI饰品等创新产品形态层出不穷,极大地扩展了市场对AI硬件的认知。据IDC预测,2024年可穿戴设备的出货量将达到5.597亿部,同比增长10.5%,预计到2028年将达到6.457亿部。然...

AI模型安全警报:微软揭示’万能钥匙’技术,导致GPT-4和Claude 3遭遇模型入侵,加强安全护栏抵御诱导攻击

在微软Azure的官方发布中,首席技术官Mark Russinovich揭示了一种创新的模型入侵技术——“Skeleton Key”,即“万能钥匙”。这种攻击手段是一种越狱策略,其核心在于利用多轮的诱导和强迫,使得大型语言模型的安全防护机制失效,允许模型回应原本禁止的敏感内容,如暴力、歧视或非法...

OpenAI与ChatGPT的深度研究:付费用户驱动API收入暴涨,年收入翻倍的秘密曝光

最近,OpenAI的财务前景引起了广泛关注。 据FutureSearch发布的研究报告显示,这家人工智能巨头有望在今年实现高达34亿美元的年收入,远超此前预计的16亿美元。OpenAI的CEO奥尔特曼透露,这一增长主要源于产品和服务的销售,其中包括ChatGPT的订阅费和API访问权限。根据Future...

AI技术驱动医药公司产品创新,业绩预告展现市场反弹与创新药产业链强劲增长

在最新的市场动态中,截至2024年7月15日,已有93家在中国A股上市的医药企业公开了其上半年的业绩预报。 在这份报告中,令人鼓舞的是,有超过四成,即41家企业预计业绩将会向好。这些企业通过一系列策略,如调整产品组合,降低成本并提高效率,成功地促进了业务的增长。行业专...

中国大模型时代:顶级AI投资人探讨生成式AI、多模态应用与AGI的十大前沿趋势及具身智能超级应用

生成式AI正引领着一场科技革新,2024年的进展表明,这一领域在成本、效果和用户留存方面面临挑战。启明创投作为AI投资先驱,已投资数十家相关企业,其中多数集中在大语言模型、多模态模型和AI基础设施。生成式AI在生产力工具、创意和陪伴三个领域取得显著成果,逐渐从提高效率...

2024年全球科技企业裁员潮:AI驱动的影响,超过10万职位变动-Intuit案例分析

随着人工智能(AI)的快速发展,全球科技领域正经历着深刻的变革。据统计,2024年以来,已有362家科技巨头进行了总计106630人的裁员,这一趋势揭示了行业的调整与转型。其中,知名软件公司Intuit,作为Credit Karma、QuickBooks和TurboTax等产品的母公司,宣布将裁员1800人,以...
17071727374181