剑桥大学的研究人员表示，人工智能 (AI) 工具可用于操纵在线受众做出决策——从买什么到投票给谁。
该论文强调了一个新兴的“数字意图信号”市场，称为“意图经济”，人工智能助手可以理解、预测和操纵人类意图，并将这些信息出售给公司谁能从中获利。
剑桥大学莱弗休姆智能未来中心 (LCFI) 的研究人员将意图经济吹捧为注意力经济的继承者，在注意力经济中，社交网络让用户着迷于其平台并为他们提供广告。
意图经济涉及精通人工智能的科技公司向最高出价者出售他们所了解的你的动机，从入住酒店的计划到对政治候选人的意见。
——几十年来，注意力一直是互联网的货币”，LCFI 的技术历史学家 Jonnie Penn 博士说道。“通过 Facebook 和 Instagram 等社交媒体平台分享您的注意力推动了在线经济。”
他补充道：“除非受到监管，否则意图经济会将你的动机视为新货币。对于那些瞄准、引导和兜售人类意图的人来说，这将是一场淘金热。
“在我们成为其意外后果的受害者之前，我们应该开始考虑这样的市场可能对人类愿望产生的影响，包括自由公正的选举、自由新闻和公平的市场竞争。”
该研究声称大型语言模型（LLM）支持人工智能工具的技术例如 ChatGPT 聊天机器人，将用于根据“意图、行为和心理数据”“预测和引导”用户。
作者表示，注意力经济允许广告商通过广告交易平台上的实时竞价购买当前的用户注意力，或者通过在广告牌上获取一个月的广告空间来购买未来的用户注意力。
法学硕士也将能够实时获得关注，例如询问用户是否考虑过观看某部特定电影——你考虑过今晚看《蜘蛛侠》吗？”以及提出与未来意图相关的建议，例如询问：“你提到感觉工作过度，我可以给你预订我们讨论过的那张电影票吗？
该研究提出了一个场景，其中这些示例是“动态生成的”，以匹配用户的“个人行为轨迹”和“心理概况”等因素。
– 在意图经济中，法学硕士可以以低成本利用用户的节奏、政治、词汇、年龄、性别、阿谀奉承的偏好等，与经纪出价相结合，以最大化可能性研究表明，实现既定目标（例如出售电影票）。在这样的世界中，人工智能模型将引导对话，为广告商、企业和其他第三方提供服务。
报告称，广告商将能够使用生成式人工智能工具来创建定制的在线广告。它还引用了马克·扎克伯格的 Meta 创建的人工智能模型 Cicero 的例子，该模型已经达到了“人类水平”的能力，可以玩棋盘游戏《外交》——作者称这款游戏是依赖于推断和预测对手的意图。
研究补充说，人工智能模型将能够根据“传入的用户生成数据流”调整其输出，并援引研究表明，模型可以通过日常交流甚至“引导”对话来推断个人信息以获取更多的个人信息。
然后该研究提出了一个未来的情景：元将向广告商拍卖用户预订餐厅、航班或酒店的意图。报告称，尽管已经有一个致力于预测和竞标人类行为的行业，但人工智能模型会将这些实践提炼成“高度量化、动态和个性化的格式”。
该研究引用了 Cicero 背后的研究团队的警告，称“[AI] 代理可能会学会推动其对话伙伴以实现特定目标”。
该研究提到技术高管讨论人工智能模型如何预测用户的意图和行为。它引用了最大的人工智能芯片制造商的首席执行官黄仁勋的话英伟达他去年曾表示，模型将“在给定的背景下找出你的意图、你的愿望、你想要做什么，并以尽可能最好的方式向你呈现信息”。