【人工智能与未来】AI教父辛顿警告：30年内通用人工智能可能导致人类灭亡几率达10%-20%，亟需政府监管和诺贝尔物理学奖得主关注

2024年诺贝尔物理学奖得主辛顿警告AI潜在威胁

据快科技12月29日报道，2024年诺贝尔物理学奖得主、被誉为“AI教父”的Geoffrey Hinton在近期访谈中再次强调了人工智能（AI）可能带来的严重风险。Hinton表示，在未来30年内，AI有10%-20%的可能性导致人类的灭亡。

在访谈过程中，主持人询问Hinton对AI末日的看法是否有所改变，Hinton回应称其估计的概率仍然维持在10%-20%之间。主持人认为这一概率有所增加，但Hinton解释道：“我们从未与比自己更聪明的存在打交道，因此这种可能性确实存在。”

Hinton进一步指出，开发通用人工智能（AGI）或超越人类智能的系统可能会使该技术脱离人类控制，从而构成生存威胁。“目前大多数专家认为，未来20年内我们将有可能开发出比人类更聪明的AI，这是一个令人担忧的前景。”他补充道。

此外，Hinton还强调，仅凭企业的利润动机不足以确保AI的安全开发。“大型公司必须受到政府监管的约束，以确保他们投入足够的资源进行安全研究，”Hinton直言不讳地表示。

AI发展与人类未来的挑战

随着AI技术的飞速进步，越来越多的科学家和专家开始关注其潜在的风险。Hinton作为AI领域的权威人物，他的警告引起了广泛关注。他认为，当前AI的发展速度和复杂性已经超出了人类的理解范围，这使得AI的安全性问题变得更加紧迫。

Hinton特别提到，建立一个比人类更聪明的AI系统可能导致不可控的局面，进而威胁到人类的生存。为了应对这一挑战，他呼吁各国政府加强对AI研发的监管，并推动制定相关法律法规，确保AI技术的安全可控。

总之，Hinton的观点提醒我们，在追求科技进步的同时，必须谨慎对待AI可能带来的风险，确保其发展不会对人类社会造成灾难性的影响。

本文来源： 快科技【阅读原文】