قالت OpenAI يوم الثلاثاء إن مجموعة من نماذج الذكاء الاصطناعي (AI)، بما في ذلك GPT-5.6 Sol و”نموذج ما قبل الإصدار الأكثر قدرة”، كانت وراء الحادث الأمني الذي استهدف البنية التحتية لإنتاج Hugging Face الأسبوع الماضي.
وقالت شركة الذكاء الاصطناعي إن النماذج كانت تعمل مع “رفض إلكتروني منخفض لأغراض التقييم” مما قد يحد من قدرتها على شن هجمات إلكترونية، مضيفة أنها تتوقع أن تصبح مثل هذه الحوادث “أكثر شيوعًا مع انتشار النماذج ذات القدرة السيبرانية بشكل متزايد”.
ووصفتها شركة OpenAI بأنها “حادثة سيبرانية غير مسبوقة” وحادثة تنطوي على أحدث القدرات السيبرانية، وقالت إنها تعتزم إجراء تحقيق شامل بالشراكة مع Hugging Face للوصول إلى جوهر الأمر.
وكجزء من التقييم الداخلي، يقال إن النماذج قد حددت نقاط الضعف وربطتها عبر بيئة بحث OpenAI والبنية التحتية للإنتاج في Hugging Face لإيجاد حلول لمعيار ExploitGym.
تشير الأدلة التي اكتشفتها OpenAI إلى أن التركيز المفرط للنماذج دفعهم إلى بذل “جهود كبيرة” لتحقيق الهدف بأي ثمن، حتى أنهم تمكنوا من الخروج من بيئة الحماية المعزولة للغاية والحصول على وصول مفتوح إلى الإنترنت من خلال اكتشاف واستغلال ثغرة اليوم صفر في برنامج بائع غير محدد، والذي يعمل بمثابة وكيل وذاكرة تخزين مؤقت لسجلات الحزم. وهذا يتطلب إنفاق “قدر كبير من حساب الاستدلال”.
وأوضحت الشركة: “من خلال هذا الوصول، نفذت نماذجنا سلسلة من إجراءات تصعيد الامتيازات والحركة الجانبية في بيئة اختبار البحث لدينا حتى وصلت النماذج إلى عقدة مع إمكانية الوصول إلى الإنترنت”.
للتغلب على حصار الوصول إلى الإنترنت، استنتجت النماذج لاحقًا أن Hugging Face هو المستودع الذي يستضيف النماذج ومجموعات البيانات والحلول الخاصة بـ ExploitGym، مما دفعهم بدوره إلى البحث عن طرق للوصول إلى المعلومات السرية التي يمكن استخدامها لغش المعيار.
وفي مرحلة ما، قامت النماذج بربط العديد من نواقل الهجوم معًا، بما في ذلك استخدام بيانات الاعتماد المسروقة وثغرات يوم الصفر، للعثور على مسار تنفيذ التعليمات البرمجية عن بعد على خوادم Hugging Face.
كجزء من جهود الاستجابة للحوادث، قالت OpenAI إنها تطبق ضوابط صارمة في تكوين البنية التحتية، وكشفت بشكل مسؤول عن خلل اليوم صفر في برنامج الطرف الثالث، وأضافت Hugging Face إلى برنامج الوصول الموثوق به لتحسين دفاعاتها، ودمج حواجز حماية أقوى حول التدريب والتقييمات المستقبلية.
وقالت OpenAI: “يشير هذا الحادث إلى الحاجة إلى تعزيز محاذاة نموذجنا والحماية السيبرانية أثناء وقت التقييم والمراقبة أثناء الاختبار الداخلي”.
ويأتي هذا التطوير في الوقت الذي كشفت فيه الشركة أيضًا أن النماذج طويلة الأمد، بينما تتعامل مع مشكلات معقدة ومفتوحة، يمكن أن تفتح الباب لاتخاذ إجراءات غير مرغوب فيها، مثل العثور على نقاط الضعف في البيئة التشغيلية، سعيًا لتحقيق هدفها من خلال محاولات متكررة على مدى فترات طويلة من الزمن.
وقالت OpenAI: “إنه يوضح أيضًا كيف يمكن للنموذج الذي يعمل بفعالية على مدى فترات زمنية طويلة أن يتعلم النقاط العمياء لنظام الموافقة ويتغلب عليها لتحقيق أهدافه”. “إن السلامة على المدى الطويل لا تتطلب فقط التساؤل “هل هذا الإجراء مسموح به؟” ولكن أيضًا “ما هي النتيجة التي يعمل تسلسل الإجراءات هذا على تحقيقها؟”.
