“AI 教父”辛顿表达了对 AI 技术迅速发展的深切担忧

IT之家报道，北京时间昨天下午，2024年诺贝尔物理学奖揭晓，杰弗里·辛顿教授和约翰·霍普菲尔德教授共同荣获这一殊荣。两位教授在机器学习领域取得了重大突破。在获奖后的电话会议中，“AI教父”杰弗里·辛顿表达了对AI技术迅猛发展的担忧。他表示，必须重视AI发展过程中可能带来的潜在风险，提醒人们注意可能出现的不良后果。

辛顿认为，AI将会产生类似工业革命的巨大影响，但它不是增强体力，而是提升智力。人类缺乏与比自己更聪明的事物互动的经验，AI有潜力改善医疗服务并提高效率，但也存在失控的风险。目前，辛顿最担心的是AI系统超越人类并最终反噬人类。尽管如此，他也承认AI在医疗、科研和气候变化等领域具有巨大潜力，但需要警惕其可能的滥用和意外后果。

辛顿呼吁科学家、政策制定者和业界领导者之间加强合作，确保AI的发展符合伦理标准。当被问及最常用的AI工具时，辛顿提到ChatGPT。IT之家附上2024年诺贝尔奖官方评语：2024年诺贝尔物理学奖获得者使用物理学工具，为当今强大的机器学习奠定了基础。约翰·霍普菲尔德创建了一种可以存储和重建信息的结构，而杰弗里·辛顿则发明了一种能够独立发现数据属性的方法，这对当前广泛使用的大型人工神经网络至关重要。尽管计算机不能思考，但机器现在可以模拟记忆和学习等功能。今年的物理学奖得主为实现这一目标做出了贡献。他们利用物理学的基本概念和方法，开发了利用网络结构处理信息的技术。

本文来源：