أنتروبيك تطلق مكتبة مفتوحة المصدر للتحقق الرسمي على نطاق واسع لClaude

أصدرت شركة الذكاء الاصطناعي أنتروبيك، من خلال فريق Frontier Red Team، دراسة في 22 أكتوبر، تفيد بأن نماذج اللغة الكبيرة أصبحت قادرة على كتابة إثباتات رسمية تلقائيًا على نطاق أوسع. تعاون الفريق مع Theorem، واستخدموا Claude في مستوى تجميع RISC-V لإثبات الخصائص الأمنية لأكثر من 100 مكتبة مفتوحة المصدر حقيقية، مما يمثل المرة الأولى التي يتم فيها استخدام الذكاء الاصطناعي للتحقق الرسمي على نطاق واسع للبرمجيات الإنتاجية في مستوى التجميع. خلال كتابة الإثباتات، تم اكتشاف ثغرات لم يتم اكتشافها لسنوات. حولت التجربة اختبارات fuzz القابلة للتجميع الموجودة في Google OSS-Fuzz إلى مواصفات، حيث يجب أن تنتهي البرامج بشكل طبيعي دون أن تؤدي إلى أخطاء في أمان الذاكرة أو فشل في التأكيد، تحت افتراضات مثل ثنائية ثابتة في خيط واحد، ميزانية ذاكرة ثابتة، معالج RISC-V وLinux، لأي إدخال أقل من 64 ميغابايت. بعد إصلاح المشكلات، أثبت Claude الخصائص المذكورة لـ 239 نقطة دخول من 123 مكتبة OSS-Fuzz، حيث تم إثبات ذلك ضد تعليمات RISC-V المترجمة، حوالي 180 مليون سطر من Rocq، وتم التحقق منها بواسطة نواة Rocq. تشير الصفحة إلى أن هذا لا يعني أن هذه المكتبات خالية من الثغرات، حيث قد تكون المشكلات المتبقية موجودة في المكونات الموثوقة أو خارج نطاق الإثبات. كما جعل الفريق Claude يقوم بالتحقق الرسمي من RFC 1950، وأثبت في مستوى ثنائي x86 أن تنفيذ zlib في نواة Linux يتوافق مع تلك المواصفات؛ تم كتابة مترجم يغطي مجموعة فرعية كبيرة من Python باستخدام Rust، وكانت النسبة المئوية للبرامج التي تم إنشاؤها عشوائيًا والتي تتوافق مع سلوك CPython 99.95%. في 36 مهمة تحقق صغيرة، أثبت Opus 5.5 أن نصف الرموز المطلوبة كانت أقل بحوالي 40% من Opus 5.