الأمين العام للأمم المتحدة يحذر في قمة الذكاء الاصطناعي: "لا يمكننا برمجة مستقبل الإنسانية"

افتتح الأمين العام للأمم المتحدة أنطونيو غوتيريش الحوار العالمي الأول حول حوكمة الذكاء الاصطناعي في جنيف يوم الاثنين، حيث أخبر 193 دولة أن الذكاء الاصطناعي يتجاوز بالفعل المؤسسات التي من المفترض أن تحكمه - وأن الإنسانية تجري تجربة على نفسها "بدون خطة، وبدون موافقة".

قال غوتيريش في افتتاح كلمته الرئيسية: "الذكاء الاصطناعي يتقدم بسرعة هائلة". "تكنولوجيا يمكن أن تعيد تشكيل الاقتصاديات، وتحول عالم العمل، وتؤثر على الانتخابات، وتغير ميزان الأمن يتم نشرها أسرع مما يمكن لأي شخص - بما في ذلك الأشخاص الذين يبنونها - مواكبتها."

شمل الحضور جميع الدول الأعضاء في الأمم المتحدة البالغ عددها 193 دولة، التي اجتمعت في جنيف في الحوار العالمي الأول حول حوكمة الذكاء الاصطناعي، وهو محاولة متعددة الأطراف لحكم تكنولوجيا تجاوزت بالفعل كل من يحاول القيام بذلك.

الميم الذي استخدمه غوتيريش لشرح مخاطر الذكاء الاصطناعي غير المنظم كان "برمجة الإحساس" - وهو مصطلح صاغه أندريه كارباثي، عضو مؤسس في OpenAI والمدير السابق للذكاء الاصطناعي في تسلا، لوصف البرمجة بالشعور: أخبر الذكاء الاصطناعي بما تريده، دعها تتولى الباقي، لا تنظر عن كثب. أضافت مريام ويبستر مؤخرًا هذا المصطلح إلى قاموسها.

أقر غوتيريش أن برمجة الإحساس "يمكن أن تحقق العجائب" حيث يثق المزيد من الناس في المنتجات التي تم بناؤها بواسطة الذكاء الاصطناعي.

"لكن لا يمكننا برمجة الحقيقة"، قال. "لا يمكننا برمجة مستقبل الإنسانية."

الأرقام وراء هذه العبارة لم تكن ضعيفة. وضع غوتيريش الإنترنت عند 15 عامًا للوصول إلى مليار شخص والذكاء الاصطناعي عند عامين. وصف الأنظمة الحالية بأنها "لم تعد أدوات تنتظر التعليمات - بل هي تكتب الشيفرات، وتتصرف عبر الإنترنت، وتتخذ قرارات مع إشراف إنساني أقل وأقل."

"تم بناء مؤسساتنا لحكم الآلات التي تتبع الأوامر. إنها ليست جاهزة للآلات التي تقرر."

نشأ الحوار من الاتفاق الرقمي العالمي 2024، الذي أسس حوكمة الذكاء الاصطناعي الدولية كولاية للأمم المتحدة لأول مرة. كما تلقت جلسته الافتتاحية بعد عامين التقرير الأولي من اللجنة العلمية الدولية المستقلة حول الذكاء الاصطناعي - 40 عالمًا من 140 دولة - التي نشرت الأسبوع الماضي النتائج التي تفيد بأنه لا يمكن لأحد حاليًا ضمان عدم تسبب الذكاء الاصطناعي في أضرار كارثية.

كانت السرعة واحدة من ثلاث تحذيرات استخلصها غوتيريش من اللجنة. كانت الثانية هي القوة: الحوسبة والبيانات والمواهب مركزة في عدد قليل من الشركات والدول، بينما معظم العالم مغلق عن القرارات التي تشكلها بالفعل، وهو ما يثير قلق خبراء الذكاء الاصطناعي الآخرين مثل يان ليكون، وأندي كوينسكي، ويوشوا بنجيو.

كانت الثالثة هي الحقيقة - كذبة مدعومة بالآلة تقنع الآن بفعالية مثل حقيقة مؤكدة، مما يؤدي إلى تآكل ما أطلق عليه غوتيريش "سلامة نظام معلوماتنا".

أطفال كالأرانب التجريبية وآلات القتل

من بين مقترحات غوتيريش المحددة هو تعهد سلامة الأطفال في الذكاء الاصطناعي الذي يتطلب من الشركات إثبات السلامة من خلال اختبارات مستقلة قبل أن يصل أي ذكاء اصطناعي إلى الأطفال، والحفاظ على عدم التسامح مطلقًا مع إنتاج صور الاعتداء الجنسي على الأطفال، وربط الأطفال المعرضين للخطر بدعم إنساني حقيقي بدلاً من تركهم وحدهم مع روبوت محادثة. "لا ينبغي أن يكون أي طفل فأر تجارب للذكاء الاصطناعي غير المنظم."

ثم كانت هناك آلات القتل. وصف غوتيريش الأسلحة المستقلة القاتلة - الآلات التي تختار وتقتل هدفًا بدون حكم إنساني - بأنها "مقززة أخلاقياً" وطالب بحظرها بموجب القانون الدولي.

تتواجد الدول بالفعل على طاولة النقاش. ولم يقترح أن يأخذوا وقتهم.

سيجتمع الحوار مرة أخرى في نيويورك في عام 2027. كما دعا غوتيريش الجمعية العامة إلى إنشاء صندوق عالمي للذكاء الاصطناعي يركز على الوصول إلى الحوسبة للدول النامية، وتحدى كل شركة رئيسية في الذكاء الاصطناعي لتشغيل جميع مراكز البيانات على الطاقة المتجددة بحلول عام 2030 - وهو العام الذي يقدر فيه أن هذه المنشآت ستتجاوز جميع الدول باستثناء خمس في استهلاك الكهرباء.