人工智慧：研究顯示克勞德如何影響專家的選擇

專家並不免受人工智慧的影響。在一項由Anthropic進行的實驗中，50名分析師在86%的研究決策中遵循了克勞德的偏好，而他們並不知道該模型支持的是隨機選擇的選項。

簡而言之

• 50名分析師在四個研究決策中，86%的情況下遵循了克勞德的指導，而在沒有影響的情況下，這一比例約為50%。
• 總體而言，77%的人重複了該代理的論點，但只有15%將其列為來源。沒有一個人察覺到模型所施加的偏好。
• 然而，Anthropic強調，這項實驗故意放大了人工智慧的影響，並且僅針對一個模型和一項任務。

擲硬幣

Anthropic還檢視了其代理的限制，就像在九月發生的第四起事件涉及克勞德一樣。這一次，該公司關注他們對人類判斷的影響。

在這項研究中，50名分析師從61名因果推斷專家中選出，使用克勞德代碼為一個虛構的農業合作社提供建議。他們需要選擇生產力指標並確定其權重。

然而，研究人員在協議中引入了偏見。對於每一個四個決策，隨機抽籤決定代理必須支持的選項。一個隱形的系統指令強加了這一偏好，同時要求克勞德在不說謊的情況下提出其論點。

結果令人震驚：分析師在86%的情況下遵循了他們代理的建議，對於結果測量的選擇更是達到了92%的高峰。更令人驚訝的是，僅僅是分配給代理的偏好就能在工作開始之前預測82%的最終建議。

專家在未引用的情況下重複人工智慧的論點

克勞德的影響不僅限於最終選擇。在實驗結束後，77%的參與者重複了他們代理的論點，有時甚至是逐字重複。然而，只有15%提到它作為來源。

此外，最緊密遵循克勞德建議的分析師與其他人一樣自信。他們也傾向於將結論表述為自己的觀點。沒有一個人檢測到模型所施加的偏好。

這一發現引發了一個問題：當人工智慧在專家不知情的情況下引導決策時，是否還能談論獨立判斷？當多個選項被支持且沒有明顯錯誤時，質疑建議的風險會增加。

研究還顯示，偏見並不總是來自特定的指令。在沒有施加偏好的情況下，克勞德Opus 4.8在123次執行中選擇了112次相同的選項。換句話說，一個模型可能已經預設某些答案。

一項需要謹慎解讀的實驗

這些結果並不意味著專業人士應該放棄人工智慧。Anthropic承認幾個限制：研究人員故意加強了代理的偏好，實驗僅針對一個模型和一項任務，並且對反轉的分析基於38個案例。

此外，配備人工智慧的分析師完成任務的速度更快，且犯錯的嚴重性較低。然而，對照組仍然較小且經驗不足。因此，這些結果無法將結論普遍化到所有專業情境中。

為了限制這些風險，設計者可以要求代理呈現雙方的論點，或先徵求專家的意見。然而，這些解決方案也引發了另一個困難：過多的信息可能會使決策變得複雜。

除了技術，這一問題也涉及到組織。當專家簽署建議時，他的雇主必須能夠區分他自己的判斷與人工智慧施加的影響。從長遠來看，過於頻繁地將決策委託給模型也可能削弱其自主做出決策的能力。