人工智能发展需谨慎：尤瓦尔·赫拉利在信息网络与媒体环境中探讨信任悖论的深远影响

随着科技的迅猛发展，人工智能（AI）逐渐成为全球热议的话题。近日，世界知名畅销书作家、以色列历史学家尤瓦尔·赫拉利在其新书《智人之上：从石器时代到AI时代的信息网络简史》发布会上，深入探讨了人工智能对人类未来的深远影响。

赫拉利指出，与以往的科技革命不同，人工智能不再仅仅是工具，而可能具备自主决策的能力。他警告称：“从石器时代的石斧到现代的原子弹，过去的科技革命始终是我们手中的工具。然而，AI却能够自行决定行动方向，甚至可能创造出我们无法预知的武器。”这种特性使得AI革命可能成为一种前所未有的威胁。

为了应对这一挑战，赫拉利强调，人类需要加强合作，但现实情况却不容乐观。“遗憾的是，我们正在快速丧失对彼此的信任，”他说，“尽管信息技术比以往任何时候都更加先进，但我们之间的沟通却变得越来越困难。”赫拉利将此现象归咎于“AI算法”的作用。他认为，这些算法的设计目标并非追求真相，而是提高用户参与度，因此容易传播虚假信息和煽动恐惧、仇恨情绪的。

此外，赫拉利批评了当前媒体环境的变化。他指出，传统媒体如报纸和电视，依靠长期经验和手段来辨别信息真伪，但在如今的数字时代，廉价且迎合大众口味的虚假泛滥成灾，导致真相被掩盖。这不仅削弱了公众的判断力，也成为民主制度发展的重大障碍。

面对人工智能带来的潜在风险，赫拉利提出了明确的建议：“要解决这一问题，我们必须首先消除信任悖论。”他解释道，当人们问起AI领域的领导者为何如此急切推进技术时，得到的回答往往是：“如果我们过于谨慎，竞争对手就会赢得比赛。”因此，建立一个基于信任的学习框架至关重要。只有这样，才能开发出值得信赖的人工智能系统。

最后，赫拉利呼吁每个人重新思考如何使用人工智能。他比喻说，就像进食后需要时间消化一样，接触新信息后也需要时间反思。他提醒道：“现在是时候让每个人都认真考虑如何合理利用这项技术了。”

本文来源：