劍橋大學(xué)的研究人員指出，人工智能（AI）工具可能被用于操縱在線用戶的決策，影響范圍涵蓋購(gòu)物選擇、投票對(duì)象等諸多方面。
這種操縱基于新興的“意圖經(jīng)濟(jì)”（intention economy），AI 助手在其中理解、預(yù)測(cè)甚至操縱人類意圖，并將這些信息出售給相關(guān)企業(yè)以牟利。
劍橋萊弗休姆智能未來(lái)中心（LCFI）的研究人員認(rèn)為“意圖經(jīng)濟(jì)”將取代“注意力經(jīng)濟(jì)”（attention economy），個(gè)人動(dòng)機(jī)將成為新的交易貨幣。
注：注意力經(jīng)濟(jì)是指在信息爆炸的時(shí)代，人類的注意力成為一種稀缺資源，從而催生出的一種經(jīng)濟(jì)模式。企業(yè)和平臺(tái)通過(guò)各種方式爭(zhēng)奪用戶的注意力，并將其轉(zhuǎn)化為商業(yè)利益。
例如，社交媒體平臺(tái)、短視頻應(yīng)用等，通過(guò)提供引人入勝的內(nèi)容和個(gè)性化推薦，吸引用戶花費(fèi)更多時(shí)間在其平臺(tái)上，并通過(guò)廣告、電商等方式獲利。
而研究人員認(rèn)為“意圖經(jīng)濟(jì)”會(huì)更進(jìn)一步，科技公司將用戶動(dòng)機(jī)，例如酒店預(yù)訂計(jì)劃、政治候選人觀點(diǎn)等信息，出售給最高出價(jià)者。
以 ChatGPT 為代表的 AI 聊天機(jī)器人背后，是快速發(fā)展的大型語(yǔ)言模型（LLM），它將被用于基于“意圖、行為和心理數(shù)據(jù)”來(lái)“預(yù)測(cè)和引導(dǎo)”用戶。
LLM 可以實(shí)時(shí)獲取用戶注意力，例如詢問(wèn)用戶是否想看某部電影，并根據(jù)用戶的“個(gè)人行為痕跡”和“心理概況”動(dòng)態(tài)生成建議。
廣告商可以使用生成式 AI 工具創(chuàng)建定制在線廣告，甚至可以像 Meta 開(kāi)發(fā)的 AI 模型 Cicero 一樣，推斷和預(yù)測(cè)用戶的意圖。
更令人擔(dān)憂的是，AI 模型可以通過(guò)日常交流推斷個(gè)人信息，甚至“引導(dǎo)”對(duì)話以獲取更多個(gè)人信息。未來(lái)，像 Meta 這樣的公司可能會(huì)將用戶預(yù)訂餐廳、航班或酒店的意圖拍賣給廣告商。
研究人員警告，如果不加以監(jiān)管，“意圖經(jīng)濟(jì)”將把用戶的動(dòng)機(jī)作為新的交易貨幣，對(duì)那些瞄準(zhǔn)、引導(dǎo)和出售人類意圖的人來(lái)說(shuō)，這將是一場(chǎng)“淘金熱”。這種趨勢(shì)可能對(duì)人類愿望產(chǎn)生重大影響，包括自由公正的選舉、新聞自由和公平的市場(chǎng)競(jìng)爭(zhēng)。
