人工智能与意图经济：剑桥大学研究揭示新趋势

根据剑桥大学研究人员的最新发现，人工智能（AI）工具正逐渐被用于操纵在线用户的决策，影响范围涵盖购物选择、投票对象等多个方面。这种操纵基于新兴的“意图经济”，AI 助手在其中不仅理解、预测人类意图，甚至能够操纵这些意图，并将相关信息出售给相关企业以牟利。

意图经济取代注意力经济

剑桥莱弗休姆智能未来中心（LCFI）的研究人员认为，“意图经济”将取代传统的“注意力经济”。在信息爆炸的时代，注意力经济是指通过争夺用户的注意力来实现商业利益的一种模式。企业和平台通过提供引人入胜的和个性化推荐，吸引用户花费更多时间在其平台上，并通过广告、电商等方式获利。而“意图经济”则更进一步，科技公司将用户动机，如酒店预订计划、政治候选人观点等信息，出售给最高出价者。

AI聊天机器人与大型语言模型的应用

以 ChatGPT 为代表的 AI 聊天机器人背后，是快速发展的大型语言模型（LLM）。这些模型不仅可以实时获取用户的注意力，还能根据用户的“个人行为痕迹”和“心理概况”动态生成建议。例如，LLM 可以询问用户是否想看某部电影，并根据用户的反应提供个性化的推荐。广告商可以使用生成式 AI 工具创建定制在线广告，甚至像 Meta 开发的 AI 模型 Cicero 一样，推断和预测用户的意图。

隐私与监管问题

更令人担忧的是，AI 模型可以通过日常交流推断个人信息，甚至“引导”对话以获取更多个人信息。未来，像 Meta 这样的公司可能会将用户预订餐厅、航班或酒店的意图拍卖给广告商。研究人员警告，如果不加以监管，“意图经济”将把用户的动机作为新的交易货币，对那些瞄准、引导和出售人类意图的人来说，这将是一场“淘金热”。

对社会的影响

这种趋势可能对人类愿望产生重大影响，包括自由公正的选举、新闻自由和公平的市场竞争。研究人员呼吁加强监管，确保新技术的发展不会损害公众利益。

本文来源： IT之家【阅读原文】