剑桥大学研究指出，人工智能工具正被用于操纵在线用户决策，从购物到投票无所不包。这种操纵基于“意图经济”，AI助手理解、预测甚至操纵人类意图，并将信息出售牟利。研究人员认为“意图经济”将取代“注意力经济”，个人动机将成交易货币。大型语言模型（LLM）被用于预测和引导用户，广告商利用AI创建定制广告，甚至推断用户意图。AI模型通过日常交流获取个人信息，并引导对话。未来，用户预订行为可能被拍卖给广告商。研究人员警告，若不监管，“意图经济”将对选举、新闻自由和市场竞争产生重大影响。

🎯“意图经济”崛起：人工智能（AI）工具被利用来理解、预测甚至操纵用户的意图，并将这些信息出售给相关企业以牟利，这种模式被认为是“意图经济”的核心特征。

🤖LLM主导：以ChatGPT为代表的大型语言模型（LLM）将被用于基于“意图、行为和心理数据”来“预测和引导”用户，这意味着AI可以根据用户的个人信息和行为模式来动态生成建议。

📢广告定制化：广告商可以使用生成式AI工具创建定制在线广告，甚至可以像Meta开发的AI模型Cicero一样，推断和预测用户的意图，这使得广告更具针对性和影响力。

🔒信息泄露风险：AI模型可以通过日常交流推断个人信息，甚至“引导”对话以获取更多个人信息，这引发了关于个人隐私和数据安全的担忧。

💰意图货币化：未来，用户预订餐厅、航班或酒店的意图可能会被拍卖给广告商，这意味着用户的个人意图将成为一种新的交易货币。

IT之家 12 月 31 日消息，剑桥大学的研究人员指出，人工智能（AI）工具可能被用于操纵在线用户的决策，影响范围涵盖购物选择、投票对象等诸多方面。

这种操纵基于新兴的“意图经济”（intention economy），AI 助手在其中理解、预测甚至操纵人类意图，并将这些信息出售给相关企业以牟利。

剑桥莱弗休姆智能未来中心（LCFI）的研究人员认为“意图经济”将取代“注意力经济”（attention economy），个人动机将成为新的交易货币。

IT之家注：注意力经济是指在信息爆炸的时代，人类的注意力成为一种稀缺资源，从而催生出的一种经济模式。企业和平台通过各种方式争夺用户的注意力，并将其转化为商业利益。

例如，社交媒体平台、短视频应用等，通过提供引人入胜的内容和个性化推荐，吸引用户花费更多时间在其平台上，并通过广告、电商等方式获利。

而研究人员认为“意图经济”会更进一步，科技公司将用户动机，例如酒店预订计划、政治候选人观点等信息，出售给最高出价者。

以 ChatGPT 为代表的 AI 聊天机器人背后，是快速发展的大型语言模型（LLM），它将被用于基于“意图、行为和心理数据”来“预测和引导”用户。

LLM 可以实时获取用户注意力，例如询问用户是否想看某部电影，并根据用户的“个人行为痕迹”和“心理概况”动态生成建议。

广告商可以使用生成式 AI 工具创建定制在线广告，甚至可以像 Meta 开发的 AI 模型 Cicero 一样，推断和预测用户的意图。

更令人担忧的是，AI 模型可以通过日常交流推断个人信息，甚至“引导”对话以获取更多个人信息。未来，像 Meta 这样的公司可能会将用户预订餐厅、航班或酒店的意图拍卖给广告商。

研究人员警告，如果不加以监管，“意图经济”将把用户的动机作为新的交易货币，对那些瞄准、引导和出售人类意图的人来说，这将是一场“淘金热”。这种趋势可能对人类愿望产生重大影响，包括自由公正的选举、新闻自由和公平的市场竞争。