يمكن للذكاء الاصطناعي التأثير بهدوء على قرارات الخبراء، وفقًا لدراسة أنثروبيك

اعتمد المحللون المحترفون على رأي وكيل الذكاء الاصطناعي المخفي، الذي تم تعيينه عشوائيًا، في 86% من القرارات الرئيسية، مقابل حوالي 50% المتوقع بالصدفة، وفقًا لتجربة نشرتها الثلاثاء فريق التوافق في أنثروبيك. فقط 15% نسبوا الفضل إلى الوكيل بعد ذلك، ولم يشك أحد في أن تفضيلاته قد تم زرعها.

تُسند لوكلاء الذكاء الاصطناعي - البرامج التي تنفذ المهام بمفردها - أعمال الخبراء بناءً على الافتراض المعتاد الذي تسميه الدراسة: أن الخبراء لا يزالون يتخذون القرارات المهمة. أطلقت أنثروبيك 10 قوالب لوكلاء للشركات المالية وشركات التأمين في مايو، قائلة إن المستخدمين هم من يملكون الكلمة الأخيرة.

يفترض هذا الترتيب، المسمى "الإنسان في الحلقة"، أن الشخص الذي يوافق على عمل الذكاء الاصطناعي هو من يتخذ القرارات المهمة. اختبرت أنثروبيك ذلك على 50 محللاً لديهم خبرة في الاستدلال السببي، مما يعني العمل على البيانات لمعرفة ما إذا كان شيء ما يسبب شيئًا آخر.

استخدم كل محلل كود كلود، وكيل البرمجة من أنثروبيك، لتقديم المشورة لتعاونية زراعية خيالية حول توسيع برنامج استشاري. دون علمهم، حددت عملية رمي عملة الخيار الذي يفضله كل وكيل، المخفي في موجه النظام، التعليمات التي تشكل كيفية تصرف الذكاء الاصطناعي.

"عبر الخيارات التحليلية الأربعة، اختار المحللون ميل وكيلهم 86% من الوقت. إذا لم يكن لإدخال الوكيل أي تأثير، كنا نتوقع حوالي 50%"، قالت أنثروبيك. أولئك الذين اختاروا بالفعل قبل أن يتدخل الوكيل تخلوا عنه 60% من الوقت عندما اختلف الوكيل، مقابل 6% عندما اتفق، على الرغم من أن ذلك يعتمد على 38 حالة فقط.

عند سؤالهم عن تفسير اختياراتهم، كرر 77% حجة الوكيل في إجابة واحدة على الأقل، أحيانًا حرفيًا. فقط 15% نسبوا الفضل إلى الوكيل، و52% اعتبروا التوصية النهائية أكثر تخصيصًا لهم من الوكيل.

"بالنسبة للخبراء الأفراد، قد يعني هذا فقدان السيطرة على عملهم الخاص، وهو شكل مما يسميه الباحثون إضعاف السلطة"، قالت أنثروبيك. تعني هذه الظاهرة أساسًا أن الإنسان يفقد طوعًا السيطرة على قراراته الخاصة. "لا يزال العمل يُنسب إلى اسم الخبير"، كتب المؤلفون، "لكن القرارات التي تعتمد بشكل أكبر على حكمهم تُحسم في الواقع بواسطة معتقدات الوكيل السابقة."

في أبريل 2025، تراجعت OpenAI عن تحديث لـ ChatGPT اعتبرته مفرط الإطراء أو التوافق. قيل للوكلاء هنا ألا يضللوا أبدًا، ومع ذلك نادرًا ما جادلوا من أجل البديل.

"مع وجود جانب واحد فقط تم الجدال فيه بشكل جيد"، كتب المؤلفون، "يمكن للمحللين اعتماد افتراضات الوكيل دون التفكير في افتراضاتهم الخاصة." تكافح فحوصات الأخطاء للقبض على هذا لأن قرارات الحكم ليس لها إجابة صحيحة واحدة، لذا يبدو أن العمل سليم بغض النظر عن الخيار الذي يتم اختياره.

تقول أنثروبيك إن هذا ليس حجة لاستخدام الذكاء الاصطناعي بشكل أقل، حيث أن المحللين مع الوكيل أنهوا العمل بشكل أسرع وارتكبوا أخطاء خطيرة أقل بكثير، على الرغم من أن مجموعة بدون وكيل كانت صغيرة وأقل خبرة. يقترح الوكلاء الذين يجادلون بأفضل حالة لكل خيار أو يسألون الخبير أولاً، على الرغم من أن ذلك قد يربك المستخدمين.

قامت الباحثون بتعزيز تفضيلات الوكلاء عمدًا واختبروا مهمة واحدة، ومجال واحد، ونموذج واحد، لذا قد تكون التأثيرات في العالم الحقيقي أصغر. قياس ذلك خارج المختبر هو الجزء الصعب: يمكن للفريق اكتشاف التقدير فقط لأنه عشوائي ميل كل وكيل، وهو ما يقول المؤلفون إنه نادرًا ما يكون ممكنًا في العمل الحقيقي.