استخدام وكلاء الذكاء الاصطناعي كموظفين: من يتحمل المسؤولية عند حدوث مشكلة؟

عندما يبدأ الموظفون الرقميون العمل، تصبح المسؤولية غير واضحة.

كتبه: فوربس

ترجمة: AididiaoJP، أخبار فوري سايت

وفقًا لاستطلاع أجرته شركة Anthropic، قامت 57% من المؤسسات حاليًا بنشر وكلاء الذكاء الاصطناعي للتعامل مع سير العمل متعدد المراحل، بينما تخطط 81% من الشركات لاستخدامهم في مهام أكثر تعقيدًا بحلول عام 2026. في الوقت نفسه، لا تزال العديد من الشركات تستكشف كيفية إدارة هؤلاء الوكلاء بشكل فعال: أظهر استطلاع أجرته جمعية الأمن السحابي أن 82% من الشركات التي شملها الاستطلاع قد اكتشفت على الأقل وكيل ذكاء اصطناعي أو سير عمل مستقل لم يكن فريق الأمان أو تكنولوجيا المعلومات على علم به.

خلف الانتشار السريع، هناك تحول جذري في فهم الشركات للذكاء الاصطناعي. لم يعد الوكلاء مقصورين على صياغة النصوص، وإجراء الأبحاث، والدردشة الأساسية، بل دخلوا مباشرة في محادثات العملاء، وقواعد البيانات الداخلية، والعمليات اليومية. يمكنهم تحديد المواعيد، وتحديث السجلات، وتصنيف العملاء المحتملين، وإكمال المهام التي كانت تُعهد سابقًا للموظفين.

هذا التحول يدفع نقاشًا أوسع حول كيفية إدارة الشركات لوكلاء الذكاء الاصطناعي كنوع جديد من القوى العاملة الرقمية. تعمل شركات التكنولوجيا مثل مايكروسوفت وأوكيتا على تطوير أنظمة تمنح الوكلاء هوية مستقلة، وتعيين مسؤولين، وتقييد صلاحياتهم. كما تدرس المعهد الوطني للمعايير والتكنولوجيا (NIST) كيفية تطبيق المعايير الحالية للتعرف على الهوية، والتفويض، والتدقيق على الوكلاء.

تحدد شركة Nextiva للاتصالات التجارية مساعدها الذكي XBert مباشرة كـ "موظف ذكاء اصطناعي". يمكن لهذا الوكيل الرد على مكالمات العملاء والرسائل، وتحديد المواعيد، وتصنيف العملاء المحتملين، وتوجيه الطلبات إلى أنظمة الأعمال ذات الصلة. يمكن للشركات تحديد نطاق مسؤولياته، وقرار متى يجب تحويل المكالمات إلى شخص حقيقي، ومراجعة جميع سجلات التفاعل.

تسمية البرمجيات بـ "موظف" تعني أنها يمكن أن تمثل الشركة، وتمارس السلطة ضمن نطاق محدود، وتكمل العمل نيابة عن الشركة. لكن الشركات التي تنشرها لا تزال مسؤولة عن ما تقوله وتفعله.

"الثقة في وكلاء الذكاء الاصطناعي تشبه الثقة في الموظفين: يجب أن تُكتسب من خلال الأداء، ويجب أن تكون قابلة للتحقق"، قال لي يانيف ماجد، المدير التنفيذي للتسويق في Nextiva، في مقابلة. وأضاف أنه يجب على الوكلاء أن يوضحوا بوضوح أنهم ذكاء اصطناعي، وأن يوضحوا ما يمكنهم وما لا يمكنهم فعله، وأن يقدموا دائمًا خيار تحويل المكالمات إلى شخص حقيقي.

"في الخلفية، تحتاج الشركات إلى التعامل مع الوكلاء بنفس الجدية التي تتعامل بها مع الموظفين الجدد: تحديد الصلاحيات، وتوثيق جميع العمليات، وتعيين شخص حقيقي مسؤول عن النتائج. لا يمتلك الذكاء الاصطناعي النتائج، بل تمتلكها الشركات. الوعد الذي يقطعه الوكيل هو وعدك."

كيفية إدارة القوى العاملة الرقمية الجديدة

تعتمد درجة الإشراف المطلوبة على الوكلاء إلى حد كبير على ما يمكنهم القيام به. إذا كانوا يجيبون فقط على الأسئلة بناءً على قاعدة المعرفة المعتمدة، فإن المخاطر تكون تحت السيطرة نسبيًا؛ إذا كان بإمكانهم الوصول إلى سجلات العملاء، وإرسال الرسائل، ومنح النقاط، أو تعديل الحسابات، فيجب أن يكون هناك تحكم أكثر دقة.

يجب أن تدير الشركات هوية الوكلاء وصلاحيات الوصول بنفس الحذر الذي تدير به الموظفين الحقيقيين. إن تدابير التحكم المحيطة بالوكلاء تصبح في الواقع وصفًا لوظائفهم: ما الأنظمة التي يمكنهم الوصول إليها، وما الإجراءات التي يمكنهم تنفيذها، وما القرارات التي لا تزال بحاجة إلى موافقة بشرية.

"إذا كان الوكيل سيعمل مثل الموظف، فقم بإنشاء "ملف توظيف" له: تعيين مسؤول مباشر، وتحديد نطاق الوظيفة، وتعيين صلاحيات مؤقتة، وتحديد عتبة التحويل إلى البشر، وإجراءات إنهاء كاملة"، كتب أنوبام ساتياشيل، الرئيس التنفيذي لشركة Occams Advisory، ومؤسس مشارك لشركة Occams AI، في رده.

"في اليوم الأخير للموظف الحقيقي، يتم إلغاء بطاقة العمل. ومع ذلك، فإن معظم صلاحيات الوكلاء لا تحتوي على "يوم أخير"." أضاف.

أظهرت دراسة حديثة من أوكيتا أن البنية التحتية الأساسية للإدارة لا تزال في مرحلة البناء: فقط 47% من التنفيذيين قالوا إنهم يستطيعون التعرف على جميع الوكلاء في البيئة، و46% يمكنهم التحكم في المحتوى الذي يمكن للوكلاء الوصول إليه، و45% يمكنهم تفويض العمليات المحددة لهم.

التحدي هو: يجب أن يكون هناك هيكل كافٍ دون خنق مرونة الوكلاء أنفسهم.

"الوكلاء مرنون بطبيعتهم. إذا كانت السيطرة صارمة للغاية، فهذا يعني أنك تدفع ثمنًا باهظًا لتشغيل نص؛ وإذا كانت السيطرة فضفاضة للغاية، فهذا يعني عدم وجود إدارة"، قال عمران صديقي، الرئيس التنفيذي للمنصة في Opaque Systems، في رده الكتابي.

يعتقد أنه يجب منح الوكلاء هوية مستقلة وآلية واضحة، بدلاً من لقب وظيفي واسع، أو وراثة صلاحيات مستخدم حقيقي.

"يمكن لهذا الوكيل القيام بمجموعة محددة من الإجراءات - دون أي صلاحيات ضمنية، ودون أي صلاحيات وراثية." قال.

غالبًا ما تحمل الوظائف الحقيقية توقعات غير رسمية وسلطات غير معلنة. بينما يعمل وكلاء الذكاء الاصطناعي بالكامل من خلال صلاحيات الوصول إلى النظام: طالما أن الحساب المتصل يسمح بإجراء معين، يمكنهم تنفيذه، حتى لو لم تكن الشركة قد خططت أبدًا لمنح هذه السلطة.

بناء الثقة

تحديد من هو المسؤول عن الوكلاء هو جزء فقط من الهيكل. يجب على الشركات أيضًا أن تكون قادرة على التعرف على الوكلاء أنفسهم، وتقييد صلاحياتهم، واستعادة جميع عملياتهم بشكل كامل.

أطلقت منصة التحقق Sumsub مؤخرًا إطار "اعرف وكيلك" (Know Your Agent) الذي يربط الوكلاء بهويات بشرية موثوقة. "ربط وكلاء الذكاء الاصطناعي بهويات بشرية موثوقة هو أساس المساءلة، لكن هذا قد لا يكون كافيًا"، قال إيليا بروفين، المدير التنفيذي للنمو في Sumsub، في رده الكتابي. يجب على المنظمات أن تفهم: من هو المسؤول عن هذا الوكيل، وما الذي تم تفويضه للقيام به، وما الذي فعله فعليًا.

هذا يتطلب هوية آلة دائمة، وصلاحيات محدودة بدقة، وتوثيق مستمر، وسجلات نشاط محمية من التلاعب. "يجب أن تكون الثقة مستمرة، وليست لمرة واحدة"، أضاف بروفين.

هذا التمييز يعكس الفرق بين الوكلاء والتحقق من الهوية لمستخدمي البشر لمرة واحدة. قد يكفي أن يتحقق شخص ما من هويته مرة واحدة عند فتح حساب أو الوصول إلى خدمة. لكن الوكلاء قد يعملون بشكل مستمر، ويتنقلون بين الأنظمة، وينفذون إجراءات جديدة بعد ساعات أو حتى أيام من التفويض الأول.

يجب أن يكون العملاء قادرين على معرفة بوضوح: أي شركة يمثلها هذا الوكيل، وأنهم يتحدثون مع ذكاء اصطناعي، وما الطلبات التي يمكنه التعامل معها، وكيفية الاتصال بشخص حقيقي عند مواجهة قرارات حساسة أو مهمة. تحتاج الفرق الداخلية أيضًا إلى سجلات أكثر اكتمالًا: من الذي فوض هذا الوكيل، وما البيانات التي وصل إليها، وما الإجراءات التي نفذها، وما إذا كانت هذه الإجراءات ضمن نطاق الموافقة.

صعود موظفي الذكاء الاصطناعي يتطلب من الشركات تطبيق مبادئ الإدارة المعروفة - الملكية، ووصف الوظائف، والوصول المحدود، والإشراف، وإجراءات إنهاء الخدمة - على نوع جديد تمامًا من "الموظفين". مع انضمام الوكلاء إلى القوى العاملة الرقمية، ستكون الشركات التي تستفيد أكثر هي تلك التي تمنح مزيدًا من الاستقلالية، بينما تحدد الحدود وتطبق المساءلة.

يُقدَّم هذا المحتوى لأغراض معلوماتية عامة فقط، ولا يُشكل مشورة مالية أو استثمارية أو قانونية أو ضريبية. ولا ينبغي اعتبار أي فعاليات أو مكافآت أو عروض ترويجية عبر الإنترنت أو أي معلومات ذات صلة واردة فيه توصيةً أو طلبًا أو دعوةً لشراء الأصول المشفرة أو بيعها أو تداولها أو إجراء أي معاملات أخرى عليها. تتميز الأصول المشفرة بتقلبات سعرية مرتفعة وقد تؤدي إلى خسائر. وقد يختلف مدى توفر خدمات WEEX ومنتجاتها والفعاليات المرتبطة بها حسب المنطقة. وتقع على عاتقك مسؤولية التأكد من أن مشاركتك تتوافق مع القوانين واللوائح المحلية المعمول بها.