كانت الموجة الأولى من المخاوف المتعلقة بالذكاء الاصطناعي في المؤسسات واضحة ومباشرة. لقد كان مجرد موظفين يقومون بلصق البيانات الحساسة في أدوات الذكاء الاصطناعي العامة. استجابت فرق الأمان بسياسات الاستخدام وحظر النطاق وقواعد منع فقدان البيانات. كان هذا الرد منطقيًا في ذلك الوقت.
لم يعد يناسب المشكلة بعد الآن.
لقد تحول Shadow AI من مشكلة تسرب البيانات إلى مشكلة التحكم في الوصول. التهديد لا يتعلق بما يكتبه الموظفون في أدوات الذكاء الاصطناعي. يتعلق الأمر بوكلاء الذكاء الاصطناعي الذين يعملون داخل المؤسسة، وما هي أنظمة المؤسسة التي يتصلون بها، وما هي الإجراءات المسموح لهم، أو لا، باتخاذها.
من الأدوات السلبية إلى الجهات الفاعلة النشطة
يقوم الموظفون ووحدات الأعمال ببناء وكلاء الذكاء الاصطناعي بوتيرة لا تستطيع معظم فرق الأمان تتبعها. يتم إنشاء مساعدين مخصصين، ووكلاء ترميز، وأتمتة سير العمل، وتطبيقات وكيل عبر الأقسام مع وجود بعضها في منصات خاضعة للعقوبات، ولكن يتم إنشاء العديد منها من خلال امتدادات المتصفح، وميزات SaaS الأصلية، وأدوات المطورين، وخوادم MCP، والوكلاء المستندين إلى نقطة النهاية، والبرامج النصية المخصصة. يبدأ الكثير منها كتجارب سريعة. ويصبح بعضها جزءا لا يتجزأ من العمليات التجارية الهامة في غضون أيام.
يختلف ملف تعريف المخاطر الخاص بهؤلاء الوكلاء بشكل أساسي عن تكنولوجيا المعلومات الظلية التقليدية. يعد تطبيق SaaS غير المصرح به وجهة للبيانات. وكيل الذكاء الاصطناعي هو جهة فاعلة يمكنها استدعاء واجهات برمجة التطبيقات (APIs)، واستخدام بيانات الاعتماد المخزنة، واسترداد السجلات، وتعديل التكوينات، وتشغيل سير العمل النهائي، واتخاذ الإجراءات في أنظمة الإنتاج، غالبًا بدون ترخيص بشري صريح لكل خطوة.
يعد قيام الموظف بلصق سجل العميل في أداة الذكاء الاصطناعي العامة بمثابة حادث تسرب للبيانات. يعد وكيل الذكاء الاصطناعي المخصص المتصل بـ Salesforce وSnowflake وGitHub وGong وSlack بمثابة حادثة تحكم في الوصول في انتظار حدوثها. يمكنه الكشف عن البيانات، ولكن يمكنه أيضًا تنفيذ إجراءات القراءة والكتابة والحذف على تلك البيانات. ويمكن أيضًا تشغيله على حسابات الخدمة بأذونات لم يقم أحد بتدقيقها، ويظل نشطًا لمدة ستة أشهر بعد تغيير الموظف الذي قام بإنشائه لأدواره أو تركه للشركة. بحث جديد من Token Security وCloud Security Alliance يوضح بدقة مدى انتشار هذا التعرض.
لماذا لا تصل الضوابط الموجودة إليها
تم تصميم معظم ضوابط أمان المؤسسة للهويات البشرية وأعباء العمل الحتمية. تفترض سياسات IAM وقواعد DLP ومراقبة الشبكة سلوكًا يمكن التنبؤ به ومسارات وصول محددة. عملاء الذكاء الاصطناعي يكسرون هذه الافتراضات.
يمكن للوكيل المكلف بحل عملية النشر الفاشلة قراءة السجلات، وأنظمة مراقبة الاستعلام، وتعديل تكوينات البنية التحتية، وفتح التذاكر، وتشغيل خطوط أنابيب الأتمتة، وإخطار الفرق الهندسية، كل ذلك بالتسلسل، وكل ذلك باستخدام نفس بيانات الاعتماد الموروثة. لتجنب تعطيل سير العمل، يمنح المطورون أذونات واسعة النطاق مقدمًا. تتراكم هذه الأذونات. يرث الوكلاء الامتيازات على مستوى المنشئ، ويصبح الوصول المؤقت دائمًا، وتفقد فرق الأمان والهوية إمكانية رؤية ما تفعله هذه الهويات فعليًا.
إن حظر مجالات الذكاء الاصطناعي العامة لا يؤدي إلى أي من هذا. وبحلول الوقت الذي يحصل فيه الوكيل على بيانات اعتماد لأنظمة المؤسسة، يكون قد تم تجاوز الحدود بالفعل. المعالجة الآلية للهويات غير البشرية هي المكان الذي يتم فيه سد هذه الفجوة.
كيف يبدو مخزون الظل الحقيقي للذكاء الاصطناعي
يتطلب اكتشاف الذكاء الاصطناعي الظلي البحث عبر البيئات التي يعيش فيها الوكلاء فعليًا، مثل منصات الذكاء الاصطناعي وتطبيقات SaaS المزودة بأتمتة مدمجة والحسابات السحابية وأدوات المطورين ونقاط النهاية وموفري الهوية. فيما يلي ستة أسئلة لتحديد ما إذا كانت فرق الأمن تتمتع بالسيطرة الحقيقية.
- أين يتم إنشاء الوكلاء أو تثبيتهم؟ يتضمن ذلك منصات الذكاء الاصطناعي الواضحة ولكن أيضًا مساعدي الترميز وميزات وكيل SaaS الأصلي وأدوات المطورين المحليين والتطبيقات الداخلية التي أضافت إمكانات الذكاء الاصطناعي بهدوء.
- من يملك كل وكيل ومن يمكنه استخدامه؟ وبدون الملكية، لا توجد مساءلة. يحمل الوكيل المصمم لفريق مالي مكون من ثلاثة أشخاص والذي يتم مشاركته عبر المؤسسة ملف تعريف مخاطر مختلف تمامًا عن الوكيل الذي يقتصر على مستخدم واحد.
- ما هي الموارد والخدمات التي يتصل بها الوكيل؟ يمكن أن يبدو الوكيل غير ضار على مستوى النظام الأساسي أثناء الاحتفاظ باتصالات بقواعد البيانات الحساسة أو أنظمة الإنتاج من خلال بيانات الاعتماد التي تم منحها بشكل غير رسمي ولم تتم مراجعتها مطلقًا.
- ما الهويات والأسرار التي يستخدمها؟ يقوم الوكلاء بالمصادقة من خلال حسابات الخدمة، ومفاتيح API، ورموز OAuth المميزة، وأدوار IAM السحابية، والأسرار طويلة الأمد. يحمل كل نوع من أنواع بيانات الاعتماد مخاطر مختلفة.
- ما هو نية الوكيل وماذا فعل فعلا؟ لا يُظهر التكوين وحده ما إذا كان الوكيل يقرأ البيانات أو يكتب السجلات أو يصل إلى الأنظمة خارج النطاق المقصود. مطلوب فهم النية والسياق السلوكي لتحديد أولويات الاستجابة.
- هل الوكيل لا يزال نشطا؟ وجدت بيانات Agentic Pulse من Token Security أن 65.4% من روبوتات الدردشة الوكيلة لم يتم استخدامها مطلقًا منذ إنشائها، لكن بيانات اعتمادها تظل نشطة. تعتبر العوامل الخاملة التي تتمتع بإمكانية الوصول المباشر بمثابة تعرض مستمر ولا يحظى بالتقدير الكافي.
منحنى النضج لضمان أمن الذكاء الاصطناعي
معظم المؤسسات في بداية هذا الأمر وليس لديها سوى القليل من مخزون الوكلاء أو لا تملكه على الإطلاق. والخطوة التالية هي الحصول على رؤية جزئية لمعرفة الوكلاء الموجودين، حتى بدون السياق الكامل. بعد ذلك، يحتاجون إلى الإثراء والسياق لفهم النية ورسم خريطة للملكية والوصول وبيانات الاعتماد لكل وكيل. وتتمثل الخطوة التالية في تطبيق التنفيذ باستخدام عناصر التحكم الآلية التي تعمل على معالجة الأذونات الزائدة، وإخطار مالكي الوكلاء غير النشطين، ووضع علامة على الوكلاء الجدد المتصلين بالأنظمة الحساسة.
الهدف ليس منع اعتماد الذكاء الاصطناعي. تتعرض الفرق لضغوط حقيقية لاستخدام هذه الأدوات، والعديد من مكاسب الإنتاجية مشروعة. إذا أصبح الأمن عائقًا صعبًا، فإن الاستخدام يتحرك بشكل أعمق وغير مرئي. والنتيجة الأفضل هي التمكين المتحكم به لتوفير مسار للفرق لنشر الوكلاء باستخدام عناصر تحكم تلقائية تعمل بشكل مستمر في الخلفية.
يتطلب ذلك التعامل مع وكلاء الذكاء الاصطناعي بنفس الطريقة التي تتعامل بها مع أي هوية أخرى في المؤسسة من خلال الاكتشاف المستمر والملكية المحددة والوصول المحدد وإدارة دورة الحياة بدءًا من الإنشاء وحتى إيقاف التشغيل.
لقد تغير سؤال الظل AI. لم يعد السؤال: ما هي البيانات التي يضعها الموظفون في الذكاء الاصطناعي؟ إنه الآن: ما هي العوامل التي تعمل في بيئتنا وما الذي منحناهم إمكانية الوصول إليه؟ هذه أسئلة مختلفة. والثاني هو الذي يحدد تعرض المنظمة ومخاطرها. إذا كنت تعمل على هذا المخزون الآن، فمن المفيد أن ترى كيف يتعامل الآخرون معه.
