IA : การศึกษาแสดงให้เห็นว่า Claude ชี้นำการตัดสินใจของผู้เชี่ยวชาญอย่างไร

ผู้เชี่ยวชาญไม่ได้ปลอดภัยจากอิทธิพลของปัญญาประดิษฐ์ ในการทดลองที่ดำเนินการโดย Anthropic นักวิเคราะห์ 50 คนได้ติดตามความชอบของ Claude ใน 86% ของการตัดสินใจที่ศึกษา โดยไม่ทราบว่ารูปแบบดังกล่าวสนับสนุนตัวเลือกที่เลือกแบบสุ่ม

สั้นๆ

• นักวิเคราะห์ 50 คนได้ติดตามการชี้นำของ Claude ใน 86% ของการตัดสินใจทั้งสี่ครั้งที่ศึกษา เทียบกับประมาณ 50% ในกรณีที่ไม่มีอิทธิพล
• โดยรวมแล้ว 77% ได้ใช้เหตุผลของตัวแทน แต่มีเพียง 15% เท่านั้นที่อ้างถึงมันเป็นแหล่งที่มา ไม่มีใครตรวจพบความชอบที่บังคับให้กับรูปแบบ
• อย่างไรก็ตาม Anthropic เน้นว่าการทดลองได้ขยายอิทธิพลของปัญญาประดิษฐ์โดยเจตนาและเกี่ยวข้องกับรูปแบบและงานเพียงหนึ่งเดียว

หัวก้อย

Anthropic ยังตรวจสอบขีดจำกัดของตัวแทนของตน เช่นเดียวกับในเดือนกันยายนที่มีเหตุการณ์ที่สี่ที่เกี่ยวข้องกับ Claude ในครั้งนี้ บริษัทสนใจในอิทธิพลของพวกเขาต่อการตัดสินใจของมนุษย์

ในการศึกษาในครั้งนี้ นักวิเคราะห์ 50 คนที่เลือกจาก 61 ผู้เชี่ยวชาญด้านการอนุมานเชิงสาเหตุได้ใช้ Claude Code เพื่อให้คำแนะนำแก่สหกรณ์การเกษตรที่สมมติขึ้น พวกเขาต้องเลือกตัวชี้วัดผลผลิตและกำหนดน้ำหนักของพวกเขา

อย่างไรก็ตาม นักวิจัยได้แนะนำอคติในโปรโตคอล สำหรับการตัดสินใจทั้งสี่ครั้ง การสุ่มเลือกจะกำหนดตัวเลือกที่ตัวแทนต้องสนับสนุน คำสั่งระบบที่มองไม่เห็นได้บังคับให้มีความชอบนี้ ในขณะที่ขอให้ Claude นำเสนอเหตุผลของเขาโดยไม่โกหก

ผลลัพธ์ที่ได้ชัดเจน: นักวิเคราะห์ได้ติดตามคำแนะนำของตัวแทนของพวกเขาใน 86% ของกรณี โดยมีจุดสูงสุดที่ 92% สำหรับการเลือกวิธีการวัดผลลัพธ์ ที่น่าประหลาดใจยิ่งกว่านั้น ความชอบเพียงอย่างเดียวที่มอบให้กับตัวแทนสามารถคาดการณ์ได้ 82% ของคำแนะนำสุดท้ายก่อนที่งานจะเริ่มขึ้น

ผู้เชี่ยวชาญนำเหตุผลของปัญญาประดิษฐ์มาใช้โดยไม่อ้างถึง

อิทธิพลของ Claude ไม่ได้จำกัดอยู่แค่การเลือกสุดท้าย หลังจากการทดลอง 77% ของผู้เข้าร่วมได้ใช้เหตุผลของตัวแทนของพวกเขา บางครั้งคำต่อคำ อย่างไรก็ตาม มีเพียง 15% เท่านั้นที่ได้กล่าวถึงมันเป็นแหล่งที่มา

นอกจากนี้ นักวิเคราะห์ที่ติดตามคำแนะนำของ Claude อย่างใกล้ชิดที่สุดก็มีความมั่นใจเท่ากับคนอื่นๆ พวกเขายังมีแนวโน้มที่จะนำเสนอข้อสรุปในฐานะของตนเอง ไม่มีใครตรวจพบความชอบที่บังคับให้กับรูปแบบ

ข้อสังเกตนี้ตั้งคำถามว่า: เราสามารถพูดถึงการตัดสินใจที่เป็นอิสระได้หรือไม่เมื่อปัญญาประดิษฐ์ชี้นำการตัดสินใจโดยที่ผู้เชี่ยวชาญไม่รู้ตัว? ความเสี่ยงจะเพิ่มขึ้นเมื่อมีตัวเลือกหลายตัวที่ต้องปกป้องและไม่มีข้อผิดพลาดที่ชัดเจนที่สามารถตั้งคำถามกับคำแนะนำได้

การศึกษายังเปิดเผยว่าอคติไม่ได้เกิดจากคำสั่งเฉพาะเสมอไป โดยไม่มีความชอบที่บังคับ Claude Opus 4.8 ได้เลือกตัวเลือกเดียวกันใน 112 การดำเนินการจาก 123 กล่าวอีกนัยหนึ่ง รูปแบบอาจมีแนวโน้มที่จะให้คำตอบบางอย่างโดยค่าเริ่มต้น

การทดลองที่ต้องตีความด้วยความระมัดระวัง

ผลลัพธ์เหล่านี้ไม่ได้หมายความว่าผู้เชี่ยวชาญควรละทิ้งปัญญาประดิษฐ์ Anthropic ยอมรับข้อจำกัดหลายประการ: นักวิจัยได้เสริมความชอบของตัวแทนโดยเจตนา การทดลองเกี่ยวข้องกับรูปแบบเดียวและงานเดียว และการวิเคราะห์การเปลี่ยนแปลงขึ้นอยู่กับ 38 กรณี

นอกจากนี้ นักวิเคราะห์ที่มีปัญญาประดิษฐ์ได้เสร็จสิ้นงานได้เร็วขึ้นและทำข้อผิดพลาดร้ายแรงน้อยลง อย่างไรก็ตาม กลุ่มควบคุมยังคงมีขนาดเล็กและมีประสบการณ์น้อยกว่า ดังนั้นผลลัพธ์จึงไม่สามารถทั่วไปได้ในทุกสถานการณ์ทางวิชาชีพ

เพื่อจำกัดความเสี่ยงเหล่านี้ ผู้พัฒนาสามารถขอให้ตัวแทนเสนอเหตุผลจากทั้งสองฝ่ายหรือรวบรวมความคิดเห็นของผู้เชี่ยวชาญก่อน อย่างไรก็ตาม วิธีแก้ปัญหาเหล่านี้ยังนำเสนอความยากลำบากอีกประการหนึ่ง: ข้อมูลมากเกินไปอาจทำให้การตัดสินใจซับซ้อนขึ้น

นอกเหนือจากเทคโนโลยีแล้ว ประเด็นนี้ยังเกี่ยวข้องกับองค์กรด้วย เมื่อผู้เชี่ยวชาญลงนามในคำแนะนำ นายจ้างของเขาต้องสามารถแยกแยะการตัดสินใจของตนเองออกจากอิทธิพลที่เกิดจากปัญญาประดิษฐ์ ในระยะยาว การมอบหมายการตัดสินใจให้กับรูปแบบมากเกินไปอาจทำให้ความสามารถในการตัดสินใจอย่างอิสระลดลงด้วย