人工智能（AI）这一新兴技术可能对人类社会带来负面效应

图灵奖获得者、知名计算机科学家约书亚·本吉奥（Yoshua Bengio）最近发出了警告，指出人工智能（AI）这一新兴技术可能对人类社会带来负面效应，并强调需要加强研究以减少相关风险。

作为深度学习领域的先驱，本吉奥曾获得多项国际奖项，为AI技术的发展奠定了坚实的基础。然而，他对当前的技术进展感到忧虑，特别是担心某些“强大势力”可能会利用AI来替代人类。他在讲话中提到：“设想未来，当机器在许多方面与我们人类一样聪明时，这将对社会产生怎样的影响？”他进一步指出，机器可能很快具备人类大部分的认知能力，通用人工智能（AGI）正逐渐成为现实。

本吉奥认为，目前只有少数大型组织和政府有能力承担构建强大AI系统的成本，而这些系统的性能通常与其规模成正比。“这些机器的建设和训练需要数十亿美元，目前只有极少数的组织和国家能够做到这一点。” 他指出，确保这些系统不会对人类造成伤害或反抗人类是一项巨大的挑战，目前尚无有效的解决方案。

面对这一迫在眉睫的前景，本吉奥呼吁社会各界立即行动起来，深入研究相关问题并采取措施降低潜在风险。他认为，AI系统的训练方式可能导致它们与人类对立，甚至有人可能试图滥用这种力量，希望看到人类被机器取代。因此，必须现在就设立正确的防护措施。

今年6月，本吉奥与其他科学家共同签署了一封名为《对高级AI发出警告的权利》的公开信，呼吁科学家、政策制定者和公众共同努力，为减轻AI风险提供指导。他特别强调，政府应首先制定法规，要求科技公司在开发前沿AI系统时进行注册，明确系统的界限和细节。鉴于AI技术的快速发展，政府需要展现出创新精神，制定灵活的法律法规以适应技术变革。

本吉奥认为，短期内AI的最大负面影响可能体现在虚假信息、错误信息以及对政治和认知的影响上。他警告说，未来将出现能够生成更加逼真的图像、声音和视频的机器，这将进一步加剧这些问题。最令人担忧的是，如果创造出比人类更聪明且具有自主目标的实体，这将对人类社会产生深远的影响。他强调：“这些都是极其复杂和重要的问题，目前我们还没有答案。但我们必须加大研究力度，采取预防措施，以减轻潜在的风险。”

本文来源：