كان أمن سلسلة توريد البرمجيات صعباً بما فيه الكفاية. ثم انضم الذكاء الاصطناعي إلى خط أنابيب البناء.
لمدة خمس سنوات، كان “أمان سلسلة توريد البرامج” يعني سؤالًا واحدًا: ماذا يوجد في التعليمات البرمجية الخاصة بك؟ ما هي الحزم مفتوحة المصدر، وما هي الإصدارات، وما هي التبعيات المتعدية على ثلاث طبقات عميقة لم يختارها أحد عن قصد؟
SolarWinds وLog4Shell وXZ Utils لقد تعلموا جميعًا نفس الدرس: تكمن المخاطر بشكل أقل في الكود الذي يكتبه الفريق وأكثر في كل ما ينتج عنه. شاي خلود، حملة الحزم الخبيثة ذاتية النشر والتي انتشرت عبر سلاسل أدوات المطورين هذا العام، علمتنا الحملة التالية: معرفة ما هو موجود في التعليمات البرمجية الخاصة بك لا يزال ضروريًا، لكنه لم يعد كافيًا.
في غضون العشرين شهرًا تقريبًا منذ إطلاق بروتوكول السياق النموذجي، أصبحت أدوات الذكاء الاصطناعي ونماذجه والبنية التحتية المحيطة بها أجزاء حاملة لكيفية إنشاء البرامج ونشرها وتشغيلها. يتم كتابة التعليمات البرمجية من قبل الوكلاء. يتم سحب الحزم بواسطة أدوات مستقلة تقرر الحاجة إليها. أصبحت المطالبات مدخلاً حقيقيًا للبناء، مما يعني أنها طريقة حقيقية للتسوية فيه. لم يكن أي من هذا في نطاقه عندما تم تصميم معظم برامج الأمان.
حيث انتقل الخطر فعلا
من المغري التعامل مع التعليمات البرمجية التي ينشئها الذكاء الاصطناعي على أنها مجرد المزيد من التعليمات البرمجية، وتشغيلها من خلال نفس الماسحات الضوئية، وتسميتها مغطاة. هذا يخطئ في قراءة المكان الذي انتقل فيه الخطر.
إن سؤال المصدر الذي حدد دائمًا أمن سلسلة التوريد – من أين أتى هذا وهل يمكنني الوثوق به – ينطبق الآن على النموذج، والوكيل، والأدوات، وليس فقط على المنتج. يقترح مساعد ترميز الذكاء الاصطناعي وجود تبعية ويقبلها المطور دون أن تتجاوز الحزمة نموذج التهديد البشري. يصل الوكيل المستقل إلى أداة عبر MCP لإكمال مهمة، وتصل هذه الأداة إلى أداة أخرى. موجه، تم صياغته بواسطة مهاجم وتم زرعه في مكان ما حيث سيقرأه النموذج، ويوجه ما يتم كتابته أو ما يتم سحبه.
إن التحقق من صحة التعليمات البرمجية التي تم إنشاؤها بواسطة الذكاء الاصطناعي قبل تنفيذها هو أمر على المحك. المشكلة الأصعب هي التحكم في الوكلاء الذين يقومون بالكتابة والأدوات التي يسمونها.
كيف يبدو البرنامج عندما يكون الذكاء الاصطناعي في نطاقه
الفرق التي نعمل معها لا تنقصها النتائج. إنهم يغرقون فيها. إن إضافة “مسح مخرجات الذكاء الاصطناعي أيضًا” إلى قائمة انتظار مثقلة بالفعل يجعل كومة التنبيهات أطول، وليس البرنامج أقوى. يتغير شيئان عندما يكون الذكاء الاصطناعي في نطاقه حقًا.
أولاً، يجب أن يمتد النسب إلى كل شيء يدخل في المسار، بما في ذلك النماذج والوكلاء. يتمثل أحد الأساليب في توسيع النطاق إلى المسار نفسه – تتبع النشاط والمصدر وتغييرات التكوين من الالتزام الأول إلى وقت التشغيل، وتطبيق نفس الدقة على النماذج والوكلاء كما هو الحال مع أي تبعية أخرى.
ثانياً، يجب أن يعتمد تحديد الأولويات على قابلية الاستغلال الحقيقية، وليس على الحجم. إن ربط النتائج بسياق وقت التشغيل مع ما يمكن الوصول إليه فعليًا هو الفرق بين قائمة الثغرات الأمنية وسلسلة الاستغلال القابلة للتنفيذ. وهذا الاختلاف مهم أكثر، وليس أقل، بمجرد أن يتمكن الوكيل من إنشاء ألف سطر من التعليمات البرمجية المعقولة قبل الغداء.
هذه هي الفجوة التي أضفت عليها مؤسسة جارتنر طابعًا رسميًا في يونيو/حزيران عندما نشرت تقريرها الافتتاحي Magic Quadrant لأمن سلسلة توريد البرمجيات – إن اعتراف السوق بأن فرق المشكلة كانت تدافع عنها دون بند في الميزانية أصبح الآن أمرًا يستحق التقييم بشكل منهجي.
في 22 يوليو، يستضيف باحثو OX ندوة عبر الإنترنت – كيف يعيد الذكاء الاصطناعي تشكيل أمن سلسلة التوريد كما نعرفه – للتجول في الأبحاث الجديدة جنبًا إلى جنب مع قادة الأمن الذين يقومون بهذا العمل من الداخل. سنغطي كيف غيّر تكامل الذكاء الاصطناعي سطح الهجوم، والنتائج من النظرة المنهجية الأولى على خوادم MCP في البرية، وكيف يبدو برنامج أمان سلسلة التوريد فعليًا عندما يكون الذكاء الاصطناعي في النطاق بدلاً من تثبيته بعد ذلك.
سجل هنا. جلب الأسئلة الصعبة.
