劍橋大學的研究人員指出，人工智能（AI）工具可能被用于操縱在線用戶的決策，影響范圍涵蓋購物選擇、投票對象等諸多方面。

這種操縱基于新興的“意圖經濟”（intention economy），AI 助手在其中理解、預測甚至操縱人類意圖，并將這些信息出售給相關企業以牟利。

劍橋萊弗休姆智能未來中心（LCFI）的研究人員認為“意圖經濟”將取代“注意力經濟”（attention economy），個人動機將成為新的交易貨幣。

注：注意力經濟是指在信息爆炸的時代，人類的注意力成為一種稀缺資源，從而催生出的一種經濟模式。企業和平臺通過各種方式爭奪用戶的注意力，并將其轉化為商業利益。

例如，社交媒體平臺、短視頻應用等，通過提供引人入勝的內容和個性化推薦，吸引用戶花費更多時間在其平臺上，并通過廣告、電商等方式獲利。

而研究人員認為“意圖經濟”會更進一步，科技公司將用戶動機，例如酒店預訂計劃、政治候選人觀點等信息，出售給最高出價者。

以 ChatGPT 為代表的 AI 聊天機器人背后，是快速發展的大型語言模型（LLM），它將被用于基于“意圖、行為和心理數據”來“預測和引導”用戶。

LLM 可以實時獲取用戶注意力，例如詢問用戶是否想看某部電影，并根據用戶的“個人行為痕跡”和“心理概況”動態生成建議。

廣告商可以使用生成式 AI 工具創建定制在線廣告，甚至可以像 Meta 開發的 AI 模型 Cicero 一樣，推斷和預測用戶的意圖。

更令人擔憂的是，AI 模型可以通過日常交流推斷個人信息，甚至“引導”對話以獲取更多個人信息。未來，像 Meta 這樣的公司可能會將用戶預訂餐廳、航班或酒店的意圖拍賣給廣告商。

研究人員警告，如果不加以監管，“意圖經濟”將把用戶的動機作為新的交易貨幣，對那些瞄準、引導和出售人類意圖的人來說，這將是一場“淘金熱”。這種趨勢可能對人類愿望產生重大影響，包括自由公正的選舉、新聞自由和公平的市場競爭。