蘋果機(jī)器學(xué)習(xí)研究團(tuán)隊(duì)近日發(fā)布了一篇名為《繪制計(jì)算機(jī)操作智能體用戶體驗(yàn)設(shè)計(jì)空間》的研究論文，深入探討了用戶在與 AI 智能體（Agent）交互時的真實(shí)心理和信任邊界。

研究指出，雖然當(dāng)前行業(yè)都在競相提升 AI 的操作能力，但往往忽略了用戶對“自動化”與“控制權(quán)”之間的微妙平衡。為了捕捉最真實(shí)的反饋，研究員采用了“綠野仙蹤法”——即讓真人躲在幕后冒充 AI 故意犯錯或陷入死循環(huán)，以此觀察用戶在不知情情況下的反應(yīng)。

研究的核心發(fā)現(xiàn)：

反感“靜默假設(shè)”：用戶極其討厭 AI 在面對模糊選項(xiàng)時擅自做主。比起為了追求所謂的“全自動化”而隨機(jī)選擇，用戶更希望 AI 在關(guān)鍵時刻停下來詢問。

透明度的平衡點(diǎn)：用戶希望了解 AI 正在做什么，但拒絕被事無巨細(xì)的每一個步驟刷屏。在熟悉任務(wù)中用戶看重結(jié)果，但在涉及金錢（如支付、修改賬戶信息）的任務(wù)中，用戶要求擁有絕對的確認(rèn)權(quán)。

信任崩塌迅速：一旦 AI 在未經(jīng)告知的情況下偏離原定計(jì)劃，用戶建立的信任會瞬間瓦解。尤其在網(wǎng)購、轉(zhuǎn)賬等場景下，AI 的一點(diǎn)點(diǎn)“自作聰明”都會讓用戶感到強(qiáng)烈的不安。

蘋果研究員強(qiáng)調(diào)，未來的 AI 智能體設(shè)計(jì)不應(yīng)只追求功能強(qiáng)大，更需要建立完善的“用戶控制”和“活動可解釋性”機(jī)制，避免 AI 成為一個不受控的“黑盒”。