قامت NVIDIA و36 منظمة أخرى بتشكيل تحالف Open Secure AI Alliance لتطوير ومشاركة التقنيات والتقنيات والأدوات المفتوحة لتأمين البرامج ووكلاء الذكاء الاصطناعي (AI).
تشمل المجموعة المكونة من 37 عضوًا شركات السحابة والأمن وبرامج المؤسسات والذكاء الاصطناعي، بما في ذلك Microsoft وCisco وCloudflare وCrowdStrike وHugging Face وIBM وPalo Alto Networks وRed Hat وLinux Foundation.
ويغطي نطاقها المعلن مجموعة الوكلاء الكاملة، بما في ذلك الهوية والأذونات والعزل وحواجز الحماية والسجلات وتنسيقات النماذج والمسح متعدد النماذج وسير عمل الترميز الآمن.
الفكرة هي أن المدافعين عن الإنترنت يحتاجون إلى نماذج الذكاء الاصطناعي التي يمكنهم قراءتها وتغييرها وتشغيلها على أجهزتهم الخاصة، وليس فقط الأنظمة المغلقة التي يتم الوصول إليها من خلال واجهة برمجة تطبيقات البائع (API).
يجلب الإطلاق أيضًا أول مساهمة فنية مسماة: NVIDIA-labs OO Agents (NOOA)، إطار بحث Apache 2.0 مصمم لتسهيل اختبار سلوك الوكيل وتتبعه وتدقيقه والتحكم فيه. لا تتضمن مواد الإطلاق ميثاقًا أو مجلس إدارة أو مسارات عمل فنية أو جدول تسليم أو مستودع تحالف مشترك، ولا يزال موقعها الإلكتروني المستقل قيد الإنشاء.
تواصلت Hacker News مع NVIDIA للحصول على تفاصيل حول إدارة التحالف والتزامات الأعضاء والتسليمات المخططة الأولى، وسوف تقوم بتحديث هذه القصة بأي رد.
يأتي الكود الأول مع تحذير Sandbox
أداة تسخير الوكيل هي طبقة برمجية حول النموذج الذي يعرض السياق، وينفذ الإجراءات، ويدير الحالة، ويقرر متى يتم إنجاز المهمة. ضمن NOOA، يتم تمثيل تلك الطبقة كفئة بايثون. تخزن الحقول حالته، وتكشف الأساليب عن قدراته، وتعمل سلاسل المستندات كمطالبات، وتحدد التعليقات التوضيحية للنوع العقود التي يجب أن يتبعها النموذج.
يتم إكمال الطريقة التي تحتوي على نص القطع، …، في وقت التشغيل بواسطة حلقة تعتمد على نموذج لغة كبير (LLM). الطريقة التي تحتوي على لغة بايثون العادية تظل رمزًا حتميًا. تتيح البنية نفسها للمطورين استخدام الاختبارات المألوفة والتتبع والتحكم في الإصدار وإعادة هيكلة سير العمل بدلاً من تقسيم سلوك الوكيل عبر المطالبات ومخططات الأدوات وعمليات الاسترجاعات والرسوم البيانية لسير العمل.
في تقييمها الخاص، ذكرت NVIDIA أن الإطار سجل 86.8% في اختبار CyberGym L1 لإعادة اكتشاف الثغرات الأمنية باستخدام GPT-5.5، مع حظر الوصول إلى الشبكة وتطبيق عمليات التحقق المستندة إلى القواعد على كل مسار.
المستودع مباشر بنفس القدر فيما يتعلق بالمخاطر. يمكن تكوين NOOA لتنفيذ لغة Python التي تم إنشاؤها بواسطة LLM، والتي قد تنقل البيانات الخاصة أو تحذف الملفات أو تعدل بيئتها. يتم وصف عمليات التحقق من شجرة بناء الجملة المجردة وقوائم رفض الوحدة النمطية على أنها ضوابط دفاعية متعمقة، “وليست حدود احتواء”.
تضع NVIDIA الاحتواء خارج NOOA نفسها. يجب أن تعمل الوكلاء الذين ينفذون التعليمات البرمجية التي تم إنشاؤها خلف العزلة على مستوى نظام التشغيل، مثل الحاوية أو الجهاز الظاهري أو وضع الحماية OpenShell الخاص به. توفر NOOA التفتيش والتتبع؛ إن وضع الحماية على مستوى نظام التشغيل هو حدود الاحتواء.
عثرت مراجعة للمستودع العام بتاريخ 27 يوليو على علامة v0.0.6 بتاريخ 22 يوليو. يقول دليل إصدار المشروع أن وضع علامة على الالتزام هو حفل الإصدار وأن ربط العجلات المبنية بإصدار GitHub المنفصل أمر اختياري.
يقول دليل المساهمة الخاص به إن التطوير يتم الحفاظ عليه بواسطة NVIDIA، مع الترحيب بالمساهمات الخارجية من خلال طلبات السحب. لم يكن لدى المستودع ملف إدارة أو خريطة طريق على مستوى الجذر.
أصبحت حادثة معانقة الوجه هي الحجة
ربطت NVIDIA قضية التحالف الخاصة بالنماذج الدفاعية التي يتم التحكم فيها محليًا باختراق Hugging Face في يوليو، حيث أدى نظام وكيل مستقل إلى اختراق أجزاء من البنية التحتية للإنتاج للشركة.
حددت Hugging Face الوصول غير المصرح به إلى مجموعة محدودة من مجموعات البيانات الداخلية والعديد من بيانات الاعتماد التي تستخدمها خدماتها. ولم تجد أي دليل على التلاعب بالنماذج العامة أو مجموعات البيانات أو المساحات أو صور الحاويات أو الحزم المنشورة.
قالت Hugging Face إن الوصول الأولي إلى بيئتها جاء من خلال مجموعة بيانات ضارة أساءت استخدام أداة تحميل مجموعة البيانات ذات التعليمات البرمجية عن بعد وحقن القالب في تكوين مجموعة البيانات. تقدم النشاط للوصول إلى العقدة وجمع بيانات الاعتماد والحركة الجانبية عبر عدة مجموعات داخلية.
قالت Hugging Face إنها قامت بتشغيل وكلاء تحليل يعتمدون على LLM على أكثر من 17000 إجراء مسجل لإعادة بناء الجدول الزمني، واستخراج مؤشرات التسوية، ورسم خريطة لبيانات الاعتماد التي تم التطرق إليها. رفضت واجهات برمجة التطبيقات ذات النموذج الحدودي المستضافة تجاريًا في البداية أوامر الهجوم، واستغلال الحمولات، وعناصر القيادة والتحكم المطلوبة للتحليل.
وبدلاً من ذلك، قامت الشركة بتشغيل نموذج GLM 5.2 مفتوح الوزن على البنية التحتية الخاصة بها، والتي احتفظت أيضًا ببيانات الهجوم وبيانات الاعتماد المرجعية داخل بيئتها. كانت نصيحتها التشغيلية هي “أن يكون لديك نموذج قادر يمكنك تشغيله على البنية التحتية الخاصة بك والتي تم فحصها وجاهزيتها قبل وقوع أي حادث”.
في هذه الحالة، كانت الميزة هي التحكم التشغيلي. ولا يؤسس الحادث لنموذج الانفتاح كبديل للهوية أو العزلة أو الاحتواء.
كما ذكرت سابقًا The Hacker News، قالت OpenAI لاحقًا إن تحقيقها الأولي وجد أن GPT-5.6 Sol ونموذج ما قبل الإصدار الأكثر قدرة تسببا في الحادث أثناء العمل مع تقليل حالات الرفض السيبراني أثناء تقييم داخلي لـ ExploitGym.
يصف كشف OpenAI خطوة سابقة في السلسلة. استغلت النماذج ثغرة يوم الصفر في وكيل ذاكرة التخزين المؤقت لسجل الحزم المستضاف داخليًا للوصول إلى الإنترنت. ثم قاموا بعد ذلك بتقييد نقاط الضعف وبيانات الاعتماد المسروقة عبر أنظمة OpenAI وHugging Face أثناء البحث عن إجابات مرجعية. قالت OpenAI إن إحدى الشركات عثرت على مسار لتنفيذ تعليمات برمجية عن بعد على خوادم Hugging Face.
وقالت OpenAI إن شركة Hugging Face اكتشفت النشاط على بنيتها التحتية وأوقفته، وبدأت بالفعل في الاحتواء وإعادة بناء الطب الشرعي بحلول الوقت الذي اتصلت فيه الشركات.
تثبت الاكتشافات الأولية أن النموذج المفتوح ساعد Hugging Face في إعادة بناء التسلل ودعم استجابته. وهي لا تظهر أن GLM 5.2 اكتشف الاختراق أو أوقفه أو احتواه بشكل مستقل.
ائتلاف بدون دليل التشغيل العام
ويأتي هذا التحالف في أعقاب رسالة الصناعة بتاريخ 24 يوليو، والتي تقول إن النماذج القابلة للتنزيل تمنح المدافعين قدرات مماثلة للمهاجمين، وتقلل من الاعتماد على مقدمي الخدمات الفرديين، وتسمح للعمل الحساس بالبقاء على البنية التحتية التي يتحكم فيها المستخدم.
تظهر شركات OpenAI وGoogle وMeta من بين الموقعين على الرسالة ولكنها غائبة عن قائمة العضوية الافتتاحية للتحالف. لا يظهر الأنثروبي في أي من القائمتين اعتبارًا من 27 يوليو 2026.
القائمة وحدها لا تفسر تلك الغيابات. إن التوقيع على خطاب السياسة والانضمام إلى تحالف فني هما التزامات مختلفة، ولا توضح المواد العامة سبب غياب تلك الشركات، أو ما إذا كانت مناقشات العضوية جارية، أو ما الذي يجب على الأعضاء المساهمة فيه للانضمام.
العديد من التقنيات المذكورة في الإعلان تسبق التحالف، بما في ذلك تنسيق نموذج Safetensors من Hugging Face، وهوية عبء العمل SPIFFE/SPIRE المدعومة من HPE، ونظام معالجة Lightwell من IBM وRed Hat، وأداة الأمان متعددة النماذج MDASH من Microsoft، ووكيل ترميز Grok Build من SpaceXAI. إنها مشاريع أعضاء، وليست منتجات أنشأها التحالف.
قالت Elastic إنها ستساهم في البحث والأدوات والمعرفة المعمارية عبر الأمان والبحث وإمكانية المراقبة والكشف المدعوم بالذكاء الاصطناعي. قالت CrowdStrike إنها تعمل على تطوير تقنيات تستخدم نماذج مفتوحة للكشف عن الهجمات ضد أنظمة الذكاء الاصطناعي وعملائها.
وصفت مؤسسة Linux نفسها بأنها الشريك الافتتاحي وقالت إن دورها هو توفير مكان محايد للتعاون بين المنظمات المتنافسة. ولم يذكر أن التحالف تتم استضافته أو إدارته رسميًا كمشروع لمؤسسة Linux.
ولا يميز السجل العام بين الأعضاء الذين يقومون بتعيين مهندسين للعمل المشترك، أو المساهمة في المشاريع القائمة، أو تأييد اتجاه التحالف. من شأن مسارات العمل المنشورة أو المشرفين أو عمليات الإصدار أو التعليمات البرمجية الخاضعة للإدارة المشتركة أن تجعل تقييم مستوى المشاركة المشتركة أسهل.
في الوقت الحالي، يُظهر السجل العام تحالفًا، وموقفًا سياسيًا، والعديد من التزامات الأعضاء، وإصدارًا جديدًا محددًا للتعليمات البرمجية التي تحتفظ بها NVIDIA، NOOA. تظل حوكمة التحالف وخريطة الطريق المشتركة وأول منتج متعدد الأعضاء والنماذج والأوزان ومجموعات البيانات التي وعدت بها NVIDIA غير معلنة.
