وفي تطور مثير للسخرية، كشفت منصة Hugging Face للذكاء الاصطناعي مفتوحة المصدر أنها كانت ضحية اختراق ارتكبه نظام عميل مستقل للذكاء الاصطناعي.
وقالت الشركة إنها اكتشفت واستجابت للحادث الذي استهدف البنية التحتية للإنتاج في وقت سابق من الأسبوع الماضي.
وقالت الشركة في بيان: “لقد حددنا الوصول غير المصرح به إلى مجموعة محدودة من مجموعات البيانات الداخلية والعديد من بيانات الاعتماد التي تستخدمها خدماتنا”.
وبينما لا يزال التحقيق في الاختراق مستمرًا، قالت Hugging Face إنها لم تجد أي دليل على أن وكيل الذكاء الاصطناعي تلاعب بالنماذج العامة أو التي تواجه المستخدم، أو مجموعات البيانات، أو Spaces، وسلسلة توريد البرامج الخاصة به.
كانت نقطة البداية للهجوم هي خط أنابيب معالجة البيانات نفسه، مع مجموعة بيانات ضارة تسيء استخدام مسارين لتنفيذ التعليمات البرمجية، أي في محمل مجموعة بيانات التعليمات البرمجية عن بعد وحقن القالب في تكوين مجموعة البيانات، لتشغيل التعليمات البرمجية على عامل المعالجة.
ومن خلال هذا الوصول، يقال إن جهة التهديد قد تصاعدت إلى مستوى الوصول إلى مستوى العقد، وجمعت بيانات اعتماد السحابة والكتلة، وانتقلت أفقيًا إلى عدة مجموعات داخلية خلال عطلة نهاية الأسبوع.
إن نموذج اللغة الكبيرة (LLM) الذي تم استخدامه لتنفيذ الهجوم غير واضح، ولكن تم تنفيذ الحملة من خلال إطار وكيل مستقل يقوم “عدة آلاف من الإجراءات الفردية عبر سرب من صناديق الحماية قصيرة العمر، مع الترحيل الذاتي للقيادة والسيطرة على الخدمات العامة.”
وقالت شركة Hugging Face إنها عالجت السبب الجذري للمشكلة منذ ذلك الحين، وهو على وجه التحديد مسارات تنفيذ التعليمات البرمجية المستخدمة للوصول الأولي. كما نفذت خطوات العلاج التالية –
- تمت إزالة موطئ قدم المهاجم عبر المجموعات المتضررة وإعادة بناء العقد المعرضة للخطر
- تم إلغاء وتدوير بيانات الاعتماد والرموز المميزة المتأثرة، وتم إجراء تناوب أوسع للأسرار كإجراء وقائي.
- تم نشر حواجز حماية إضافية وضوابط دخول أكثر صرامة على مجموعاتها
- تحسين الكشف والتنبيه لضمان إخطار المستجيبين في غضون دقائق، على مدار 24 ساعة طوال أيام الأسبوع
وكإجراء وقائي إضافي، تحث Hugging Face العملاء على تدوير أي رموز وصول ومراجعة النشاط الأخير على حساباتهم.
وقالت الشركة أيضًا إنها لجأت إلى نموذج Z.ai’s GLM 5.2، وهو نموذج صيني مفتوح الوزن، لإجراء تحليل الطب الشرعي بعد أن رفضت النماذج الحدودية الغربية طلبات تحتوي على أوامر هجوم حقيقية، واستغلال الحمولات، وعناصر القيادة والتحكم (C2) بسبب تفعيل حواجز السلامة الخاصة بها وعدم قدرتها على التمييز بين المهاجم والجهد المشروع للاستجابة للحوادث.
وقالت الشركة التي يقع مقرها الرئيسي في نيويورك: “تشير هذه التجربة إلى فجوة تستحق التخطيط لها”. “نحن لا نعرف النموذج الذي يدعم عملاء المهاجم، سواء كان نموذجًا مستضافًا مكسور الحماية أو نموذجًا مفتوح الوزن غير مقيد؛ وفي كلتا الحالتين، لم يكن المهاجم ملزمًا بأي سياسة استخدام، في حين تم حظر عملنا الجنائي بواسطة حواجز حماية النماذج المستضافة التي جربناها لأول مرة.”
“الدرس العملي للمدافعين: أن يكون لديك نموذج قادر يمكنك تشغيله على البنية التحتية الخاصة بك والتي تم فحصها وجاهزيتها قبل وقوع أي حادث، وذلك لتجنب إغلاق حاجز الحماية ولمنع بيانات المهاجم وبيانات الاعتماد من مغادرة بيئتك.”
