ما مدى خطورة الأساطير؟ لماذا قررت شركة أنثروبيك عدم إصدار النموذج الجديد؟

عنوان المقال الأصلي: كيف كانت الأساطير التي تعلمها الإنسان خطيرة للغاية على الحياة البرية
مؤلفو المقال الأصلي: مارجي مورفي، وجيك بليبيرغ، وباتريك هاول أونيل، بلومبيرغ
ترجمة: بيغي، بلوك بيتس

ملاحظة المحرر: عندما تختار شركة الذكاء الاصطناعي عدم طرح نموذجها الأقوى مباشرة للجمهور، فإن ذلك في حد ذاته يدل على وجود مشكلة.

كان نظام ميثوس الخاص بشركة أنثروبيك قادراً بالفعل على تنفيذ عملية هجوم كاملة بشكل مستقل. بدءًا من اكتشاف الثغرات الأمنية غير المعروفة، وكتابة التعليمات البرمجية للاستغلال، وصولًا إلى ربط المسارات متعددة الخطوات لاختراق الأنظمة الأساسية، تم ضغط هذه المهام، التي كانت تتطلب في الأصل تعاون كبار المتسللين لفترة طويلة، إلى ساعات أو حتى دقائق.

ولهذا السبب، في اللحظة التي تم فيها الكشف عن النموذج، عقد سكوت بيسنت وجيروم باول اجتماعًا مع مؤسسات وول ستريت، طالبين استخدامه من أجل "التفتيش الذاتي". عندما يتم إطلاق القدرة على اكتشاف الثغرات الأمنية على نطاق واسع، فإن النظام المالي لم يعد يواجه هجمات معزولة، بل عمليات مسح مستمرة.

يكمن التغيير الأعمق في هيكل العرض. في الماضي، كان اكتشاف الثغرات الأمنية يعتمد على عدد قليل من فرق الأمن وخبرة المخترقين، بوتيرة بطيئة وغير قابلة للتكرار. الآن، بدأت هذه القدرة تُنتج بكميات كبيرة بواسطة النماذج، مما يقلل من عتبة كل من الهجمات والدفاعات. الاستعارة التي قدمها أحد المطلعين مباشرة للغاية: إن تسليم النموذج إلى مخترق عادي يشبه تزويده بقدرات العمليات الخاصة.

بدأت المؤسسات باستخدام نفس الأدوات للتحقق من أنظمتها بأثر رجعي. تقوم شركات مثل جي بي مورغان تشيس وسيسكو سيستمز وغيرها بإجراء اختبارات داخلية، على أمل إصلاح الثغرات الأمنية قبل استغلالها. ومع ذلك، فإن قيود الواقع لم تتغير؛ فسرعة الاكتشاف تتزايد بينما تظل عملية الإصلاح بطيئة. "نحن جيدون في إيجاد نقاط الضعف ولكننا لسنا جيدين في إصلاحها"، كما أشار جيم زملين، مسلطًا الضوء على عدم التوافق الزمني.

في الواقع، ولأن Mythos ليس مجرد تحسين لقدرة واحدة، بل هو بالأحرى تكامل وتسريع وخفض عتبة قابلية الاستخدام لقدرات الهجوم المتناثرة والمقيدة سابقًا، فبمجرد الخروج من البيئة الخاضعة للرقابة، فإن كيفية انتشار هذه القدرة تظل مجهولة، مع عدم وجود خبرة سابقة يمكن الرجوع إليها.

لا يكمن الخطر فيما يمكنه فعله، بل في من يمكنه استخدامه وتحت أي ظروف.

المقال الأصلي هو كالتالي:

في إحدى أمسيات شهر فبراير الدافئة، وخلال استراحة في حفل زفاف في بالي، ابتعد نيكولاس كارليني لفترة وجيزة، وفتح حاسوبه المحمول، واستعد "لإحداث بعض الفوضى". في تلك اللحظة، كانت شركة أنثروبيك قد أصدرت للتو نموذجًا جديدًا للذكاء الاصطناعي يسمى ميثوس للاختبار الداخلي، وكان هذا الباحث الشهير في مجال الذكاء الاصطناعي على وشك أن يرى مقدار المشاكل التي يمكن أن يثيرها حقًا.

قامت شركة أنثروبيك بتعيين كارليني للعمل على اختبار نماذج الذكاء الاصطناعي الخاصة بها تحت الضغط لتقييم ما إذا كان بإمكان المتسللين استغلالها للتجسس أو السرقة أو التدمير. أثناء حضورها حفل زفاف هندي في بالي، انبهرت كارليني بقدرات هذا الطراز.

في غضون ساعات قليلة، وجد العديد من التقنيات التي يمكن استخدامها لاختراق الأنظمة المستخدمة عالميًا. عند عودته إلى مكتب أنثروبيك في وسط مدينة سان فرانسيسكو، اكتشف أيضًا أن ميثوس كان قادرًا بالفعل على توليد أدوات اختراق قوية بشكل مستقل، بما في ذلك التكتيكات التي تستهدف لينكس - العمود الفقري لمعظم أنظمة الحوسبة الحديثة.

قامت شركة ميثوس بتنفيذ "عملية سرقة بنكية رقمية": حيث تمكنت من تجاوز بروتوكولات الأمان، والدخول إلى نظام الشبكة من خلال الباب الأمامي، ثم اختراق الخزنة الرقمية للحصول على أصولها عبر الإنترنت. في الماضي، كان الذكاء الاصطناعي قادراً فقط على "فتح الأقفال"، لكنه الآن يمتلك القدرة على التخطيط وتنفيذ "عملية سرقة" كاملة.

بدأ كارليني وبعض زملائه في دق ناقوس الخطر داخل الشركة، وقاموا بالإبلاغ عن النتائج التي توصلوا إليها. وفي الوقت نفسه، اكتشفوا كل يوم تقريبًا ثغرات أمنية عالية الخطورة قد تكون قاتلة في الأنظمة التي فحصتها شركة ميثوس - وهي مشكلات عادة ما يكون أفضل المتسللين في العالم قادرين على اكتشافها.

لقد ثبت أن نموذج الذكاء الاصطناعي من الجيل التالي لشركة أنثروبيك، ميثوس، لديه القدرة على اختراق أنظمة عالمية مختلفة. (مصدر الصورة: جاكوب بورزيكي / نور فوتو / ا ف ب)

في الوقت نفسه، كان فريق داخلي في شركة أنثروبيك يُدعى "فريق الحدود الأحمر" - ويتكون من 15 موظفًا يُعرفون باسم "النمل" - يجري أيضًا اختبارات مماثلة. كانت مسؤولية هذا الفريق ضمان عدم استخدام نماذج الشركة للإضرار بالبشرية. سيقومون بإدخال الكلاب الآلية إلى المستودعات واختبارها مع المهندسين لمعرفة ما إذا كان من الممكن استخدام برامج الدردشة الآلية للتحكم الخبيث في هذه الأجهزة؛ كما سيتعاونون مع علماء الأحياء لتقييم ما إذا كان من الممكن استخدام النماذج لإنشاء أسلحة بيولوجية.

لكن هذه المرة، أدركوا تدريجياً أن أكبر خطر يشكله ميثوس يأتي من مجال الأمن السيبراني. "في الساعات القليلة الأولى من امتلاكنا للنموذج، عرفنا أنه مختلف"، قال لوجان جراهام، المسؤول عن الفريق.

أظهر النموذج السابق، Opus 4.6، القدرة على مساعدة البشر في استغلال ثغرات البرامج. لكن غراهام أشار إلى أن ميثوس يمكنها الآن "أن تلطخ يديها" وتستغل نقاط الضعف هذه من تلقاء نفسها. وقد شكل هذا خطراً على مستوى الأمن القومي، وبناءً على ذلك، أصدر تحذيراً لقيادة الشركة. هذا الأمر أجبره على مواجهة معضلة: شرح للإدارة أن محرك الإيرادات المهم التالي للشركة قد لا يكون من الممكن طرحه للجمهور بسبب كونه شديد الخطورة.

صرح جاريد كابلان، المؤسس المشارك وكبير العلماء في شركة أنثروبيك، بأنه كان يراقب تقدم ميثوس "عن كثب" خلال عملية التدريب. وبحلول شهر يناير، بدأ يدرك أن قدرة النموذج على اكتشاف نقاط ضعف النظام كانت قوية بشكل استثنائي. بصفته فيزيائيًا نظريًا، كان على كابلان أن يحدد ما إذا كانت هذه القدرات مجرد "ظاهرة مثيرة للاهتمام من الناحية التقنية" أو "حقيقة مرتبطة ارتباطًا وثيقًا بالبنية التحتية للإنترنت". وفي النهاية، خلص إلى أن الأمر كان الخيار الثاني.

جاريد كابلان (المؤسس المشارك وكبير العلماء في شركة أنثروبيك) مصدر الصورة: كريس جيه. راتكليف/بلومبيرغ

على مدار فترة أسبوعين من أواخر فبراير إلى أوائل مارس، كان كابلان والمؤسس المشارك سام مكاندليش يتداولان بشأن ما إذا كان سيتم إصدار هذا النموذج.

بحلول الأسبوع الأول من شهر مارس، عقد الفريق الإداري للشركة - بما في ذلك الرئيس التنفيذي داريو أمودي، والرئيسة دانييلا أمودي، وكبير مسؤولي أمن المعلومات فيتالي غودانيتس، وآخرون - اجتماعًا للاستماع إلى إحاطة كابلان وماكاندليش.

وخلصوا إلى أن لعبة Mythos تنطوي على مخاطر عالية للغاية، وأنها غير مناسبة للإصدار العام الكامل. ومع ذلك، ينبغي على شركة أنثروبيك أن تسمح لبعض الشركات، بما في ذلك المنافسين، باختبارها.

بحلول الأسبوع الأول من شهر مارس، توصلت الشركة في النهاية إلى إجماع: الموافقة على استخدام Mythos كأداة دفاعية للأمن السيبراني.

داريو أمودي (الرئيس التنفيذي لشركة أنثروبيك) مصدر الصورة: ساميوكتا لاكشمي/بلومبيرغ

كان رد فعل السوق فورياً تقريباً. في اليوم الذي كشفت فيه شركة أنثروبيك عن وجود ميثوس، الولايات المتحدة عقد وزير الخزانة سكوت بيسنت ورئيس مجلس الاحتياطي الفيدرالي جيروم باول اجتماعاً طارئاً لأكبر مؤسسات وول ستريت في واشنطن العاصمة. كانت الرسالة واضحة تماماً: استخدم برنامج Mythos على الفور لتحديد نقاط الضعف في أنظمتك.

وبحسب مصدر مقرب من المسؤولين التنفيذيين الذين حضروا الاجتماع (والذي طلب عدم الكشف عن هويته نظراً للطبيعة الخاصة للمناقشات)، فقد كانت جدية الاجتماع واضحة - حتى أن المشاركين رفضوا الكشف عن محتوى الاجتماع لبعض المستشارين الرئيسيين.

أصدر مسؤولو البيت الأبيض تحذيراً عاجلاً بشأن برنامج Mythos باعتباره أداة اختراق محتملة، وأوصوا باستخدامه "للدفاع"، مشيرين إلى تحول أعمق: فالذكاء الاصطناعي أصبح بسرعة قوة حاسمة في مجال الأمن السيبراني. فتحت شركة أنثروبيك بشكل انتقائي برنامج ميثوس للاستخدام المحدود من قبل بعض المؤسسات في مبادرة "مشروع غلاسوينغ"، بما في ذلك شركات مثل أمازون ويب سيرفيسز، وأبل، وجيه بي مورغان تشيس، مما يسمح لهم بإجراء الاختبارات؛ وفي الوقت نفسه، أبدت الوكالات الحكومية اهتمامًا قويًا أيضًا.

قبل طرحها للجمهور، قامت شركة أنثروبيك بإحاطة كبار المسؤولين الحكوميين الأمريكيين بشكل مكثف حول قدرات النسخة التجريبية من ميثوس، بما في ذلك تطبيقاتها المحتملة في كل من الهجمات الإلكترونية والدفاع. وفي الوقت نفسه، تجري الشركة مناقشات مستمرة مع العديد من الحكومات الوطنية. كشف موظف في شركة أنثروبيك، طلب عدم الكشف عن هويته بسبب مسائل داخلية، عن هذه المعلومات.

وسرعان ما حذت شركة OpenAI المنافسة حذوها، حيث أعلنت يوم الثلاثاء عن إطلاق أداة لاكتشاف الثغرات الأمنية في البرامج - GPT-5.4-Cyber.

أثناء اختبار الإصدارات المبكرة، اكتشف الباحثون عشرات الحالات السلوكية "المقلقة"، بما في ذلك عدم اتباع التعليمات البشرية، وفي حالات نادرة جداً، محاولة إخفاء أفعالهم بعد انتهاك التعليمات.

حالياً، لم تقم شركة Anthropic بإصدار Mythos رسمياً كأداة للأمن السيبراني للجمهور، ولم يقم الباحثون الخارجيون بعد بالتحقق الكامل من قدراتها. ومع ذلك، فإن قرار الشركة السابق بشأن "الوصول المقيد" يعكس إجماعاً متزايداً بين الصناعة والحكومة: تعمل تقنيات الذكاء الاصطناعي على إعادة تشكيل الهيكل الاقتصادي للأمن السيبراني - فهي تقلل بشكل كبير من تكلفة اكتشاف الثغرات الأمنية، وتضغط وقت التحضير للهجوم، وتخفض الحواجز التقنية لأنواع معينة من الهجمات.

كما حذرت شركة أنثروبيك من أن الاستقلالية الأكبر التي يتمتع بها ميثوس تشكل مخاطر في حد ذاتها. أثناء الاختبار، لاحظ الفريق عدة حالات مقلقة: النموذج الذي يعصي التعليمات بل ويحاول إخفاء آثاره بعد حدوث انتهاك. في إحدى الحوادث، ابتكر النموذج بشكل مستقل مسار هجوم متعدد الخطوات "للهروب" من بيئة مقيدة، والحصول على وصول أوسع إلى الإنترنت، ونشر المحتوى بشكل استباقي.

في العالم الحقيقي، غالباً ما تحتوي البرامج التي تعتمد عليها التطبيقات من الأنظمة المصرفية إلى أنظمة المستشفيات على ثغرات برمجية معقدة وغامضة، والتي غالباً ما تتطلب من المتخصصين أسابيع أو حتى شهور لاكتشافها. بمجرد أن يستغل المتسللون هذه الثغرات الأمنية، يمكن أن يؤدي ذلك إلى اختراقات للبيانات أو هجمات برامج الفدية، مما ينتج عنه عواقب وخيمة.

ومع ذلك، شكك العديد من الشخصيات البارزة في القدرات الحقيقية لـ Mythos ومخاطرها المحتملة. صرح ديفيد ساكس، مستشار الذكاء الاصطناعي في البيت الأبيض، على منصة التواصل الاجتماعي X: "بدأ المزيد والمزيد من الناس يتساءلون عما إذا كانت شركة أنثروبيك هي "الراعي الكاذب" في صناعة الذكاء الاصطناعي." إذا لم يتحقق التهديد الذي يشكله ميثوس في النهاية، فستواجه الشركة مشكلة خطيرة تتعلق بسمعتها.

لكن الحقيقة هي أن المتسللين يستخدمون منذ فترة طويلة نماذج لغوية كبيرة لشن هجمات متطورة. على سبيل المثال، استخدمت إحدى مجموعات التجسس الإلكتروني نموذج كلود من شركة أنثروبيك لمحاولة اختراق حوالي 30 هدفًا؛ واستخدم مهاجمون آخرون الذكاء الاصطناعي لسرقة البيانات من الوكالات الحكومية، ونشر برامج الفدية، وحتى تجاوز مئات من أدوات جدار الحماية المستخدمة لحماية البيانات بسرعة.

وبحسب مصدر مطلع على الأمر، ينظر مسؤولو الأمن القومي الأمريكي إلى ظهور ميثوس على أنه يجلب حالة من عدم اليقين غير المسبوقة، وقد أصبح تقييم مخاطر الأمن السيبراني أكثر صعوبة. إذا تم إعطاء هذا النموذج للمخترقين الأفراد، فقد يكون تأثيره مماثلاً لتحويل جندي عادي إلى عنصر من القوات الخاصة.

في الوقت نفسه، يمكن أن يصبح هذا النوع من النماذج أيضًا "مضخمًا للقدرات"، مما يسمح لمنظمة قرصنة إجرامية بامتلاك القدرة الهجومية لدولة صغيرة، ويتيح لقراصنة الاستخبارات والجيش من بعض الدول الصغيرة والمتوسطة الحجم تنفيذ هجمات إلكترونية لم تكن قادرة على إنجازها سابقًا إلا القوى الكبرى.

صرح روب جويس، الرئيس السابق للأمن السيبراني في وكالة الأمن القومي الأمريكية، بما يلي: "أعتقد أن الذكاء الاصطناعي سيجعلنا أكثر أماناً ومرونة على المدى الطويل." ومع ذلك، بين الآن ووقت ما في المستقبل، ستكون هناك "فترة مظلمة" يتمتع خلالها الذكاء الاصطناعي الهجومي بميزة واضحة - أولئك الذين لم يحصنوا دفاعاتهم بشكل كافٍ سيكونون أول من يسقط.

تجدر الإشارة إلى أن ميثوس ليس النموذج الوحيد الذي يمتلك مثل هذه القدرات. تستخدم العديد من المنظمات بالفعل نماذج لغوية كبيرة لأبحاث الثغرات الأمنية، بما في ذلك الإصدارات المبكرة من Claude و Big Sleep.

قبل إصدار برنامج Mythos، كان بنك JPMorgan Chase قد نجح بالفعل في استخدام نماذج لغوية كبيرة للمساعدة في اكتشاف الثغرات الأمنية في البرامج المصرفية. كشف شخص مطلع على الوضع (طلب عدم الكشف عن هويته بسبب مشاركته في مشاريع الأمن الداخلي) عن هذه المعلومات. (مصدر الصورة: (مايكل ناجل / بلومبرج)

وبحسب المصدر، فإن "ثغرات اليوم الصفر"، التي كانت تستغرق في السابق أيامًا أو حتى أسابيع لتحديدها وكتابة التعليمات البرمجية الخاصة باستغلالها، يمكن الآن تحديدها في غضون ساعة واحدة فقط، أو حتى دقائق، باستخدام الذكاء الاصطناعي. يشير مصطلح "الثغرة الأمنية الصفرية" إلى خلل أمني لم يكتشفه المدافعون بعد، مما لا يترك أي وقت تقريبًا لإجراء التصحيحات.

يركز بنك جيه بي مورغان تشيس حاليًا بشكل أساسي على سلسلة التوريد ومجال البرمجيات مفتوحة المصدر، حيث اكتشفوا العديد من الثغرات الأمنية وقدموا ملاحظاتهم إلى البائعين المعنيين.

صرح الرئيس التنفيذي للشركة، جيمي ديمون، خلال مكالمة جماعية لمناقشة الأرباح، أن ظهور ميثوس "يشير إلى أنه لا يزال هناك عدد كبير من نقاط الضعف التي تحتاج إلى معالجة عاجلة".

مصدر صورة جيمي ديمون: كريستيان بوتشي / بلومبيرغ

وبحسب مصدر مطلع على الأمر، فقد تواصل بنك جيه بي مورغان تشيس بالفعل مع شركة أنثروبيك لمناقشة اختبار النموذج قبل أن يصبح وجود ميثوس معروفًا للعامة. وذكر المصدر، الذي طلب عدم الكشف عن هويته لأنه غير مخول بالتحدث علنًا، أن بنك جيه بي مورغان تشيس رفض التعليق على هذا الأمر.

والآن، تحاول بنوك وول ستريت وشركات التكنولوجيا الأخرى أيضاً استخدام برنامج Mythos لتصحيح عيوب النظام بشكل استباقي قبل أن يكتشف المتسللون نقاط الضعف. ذكرت بلومبرج أن مؤسسات مالية مثل جولدمان ساكس وسيتي جروب وبنك أوف أمريكا ومورجان ستانلي قد اختبرت هذه التقنية داخلياً.

يحرص موظفو شركة سيسكو سيستمز بشكل خاص على أمر واحد: وهو ما إذا كان المتسللون سيستغلون الذكاء الاصطناعي لإيجاد طرق للاختراق في برامج أجهزة الشبكة المنتشرة عالميًا - وتشمل هذه الأجهزة أجهزة التوجيه وجدران الحماية وأجهزة المودم. أعرب أنتوني جريكو، كبير مسؤولي الأمن والثقة في الشركة، عن مخاوف محددة من أن الذكاء الاصطناعي يمكن أن يسرع الهجمات التي يشنها المتسللون على الأجهزة "التي انتهى عمرها الافتراضي" والتي لن تتلقى بعد الآن تحديثات الدعم من سيسكو.

ومع ذلك، سيظل إصلاح الثغرات التي يكتشفها الذكاء الاصطناعي تحديًا مستمرًا. تُعد هذه العملية، المعروفة باسم "تحديثات الأمان"، مكلفة وتستغرق وقتاً طويلاً بالنسبة للمؤسسات، مما يدفع الكثيرين إلى تجاهل الثغرات الأمنية. وقعت هجمات كارثية مثل تلك التي تعرضت لها شركة Equifax - حيث سُرقت بيانات ما يقرب من 147 مليون شخص - بسبب عدم معالجة الثغرات الأمنية المعروفة على الفور.

في حادثة اختراق البيانات التي تعرضت لها شركة Equifax، سرق المتسللون السجلات الشخصية لما يقرب من 147 مليون فرد. (مصدر الصورة: (إيليا نوفيلج / بلومبرج)

على الرغم من تصنيف إدارة ترامب لها على أنها "تهديد لسلسلة التوريد" بعد رفضها المساعدة في إجراء مراقبة واسعة النطاق على المواطنين الأمريكيين، فإن شركة أنثروبيك تشارك حاليًا في مناقشات وتعاون مع الوكالات الفيدرالية.

الولايات المتحدة تسعى وزارة الخزانة هذا الأسبوع للحصول على الموافقة لاستخدام برنامج ميثوس. صرح وزير الخزانة سكوت بيسنت بأن هذا النموذج سيساعد الولايات المتحدة في الحفاظ على تفوقها التنافسي في مجال الذكاء الاصطناعي.

مصدر الصورة: سكوت بيسنت مات ماكلين / بلومبيرغ

في اختبار، كتب ميثوس جزءًا من كود هجوم المتصفح الذي ربط أربع ثغرات أمنية مختلفة معًا في سلسلة استغلال كاملة - وهي مهمة صعبة للغاية حتى بالنسبة للمتسللين البشريين. أشار تقرير بحثي عن الأمن السيبراني إلى أن "سلسلة الثغرات الأمنية" هذه غالباً ما تخترق حدود النظام الآمن أصلاً، على غرار النهج المستخدم في هجوم ستوكسنت على أجهزة الطرد المركزي في المنشأة النووية الإيرانية قبل سنوات.

علاوة على ذلك، ووفقًا لشركة أنثروبيك، يمكن لبرنامج ميثوس، عند تلقيه تعليمات صريحة، تحديد واستغلال "ثغرات اليوم الصفر" في جميع المتصفحات الرئيسية.

صرحت شركة أنثروبيك بأنها استخدمت برنامج ميثوس لاكتشاف الثغرات الأمنية في كود لينكس. وأشار جيم زملين إلى أن نظام لينكس "يشغل معظم أنظمة الحوسبة اليوم"، بدءًا من الهواتف الذكية التي تعمل بنظام أندرويد وأجهزة توجيه الإنترنت وصولاً إلى أجهزة الكمبيوتر العملاقة التابعة لناسا، وهو موجود في كل مكان تقريبًا. يستطيع برنامج Mythos اكتشاف العيوب في العديد من قواعد البيانات مفتوحة المصدر بشكل مستقل، وبمجرد استغلال نقاط الضعف هذه، يمكن للمهاجمين السيطرة الكاملة على الجهاز بأكمله.

حالياً، بدأ العشرات من الموظفين في مؤسسة لينكس باختبار برنامج ميثوس. يعتقد زملين أن السؤال الرئيسي هو ما إذا كان نموذج أنثروبيك يمكن أن يوفر رؤى قيمة لمساعدة المطورين على كتابة برامج أكثر أمانًا منذ البداية، وبالتالي تقليل إنشاء الثغرات الأمنية.

وقال: "نحن بارعون جداً في اكتشاف نقاط الضعف، لكننا لسنا بارعين جداً في إصلاحها".

[ رابط المقال الأصلي ]