كيف نقوم بتأمين الأنظمة الداخلية ضد الذكاء الاصطناعي المتزايد القدرة وغير المتوافق بشكل كامل
يقوم وكلاء الذكاء الاصطناعي بتغيير علاقتنا بالتكنولوجيا. ومن خلال التنفيذ المستقل للمهام المعقدة – بدءًا من الدفاع السيبراني وحتى الاكتشاف العلمي وتطوير المنتجات – تفتح هذه الأنظمة عصرًا جديدًا من الإنتاجية. وفي الولايات المتحدة وحدها، يمكن لعملاء الذكاء الاصطناعي أن يخلقوا 2.9 تريليون دولار من القيمة الاقتصادية بحلول عام 2030.
ومع ازدياد قدرة هؤلاء العملاء، فإنهم يحتاجون أيضًا إلى ضمانات أكثر تعقيدًا. ولهذا السبب قمنا بتطوير خارطة طريق التحكم في الذكاء الاصطناعي: إطار عمل لبناء وإدارة الذكاء الاصطناعي المتقدم الذي ننشره داخل Google. إن نهج “الدفاع المتعمق”، الذي يمكن أن يكون بمثابة نموذج للصناعة الأوسع، يتجاوز محاذاة النماذج التقليدية، ويضيف طبقة حاسمة من الأمان على مستوى النظام الذي يوفر الضمان حتى لو كانت المحاذاة غير كاملة.
فهم التحكم بالذكاء الاصطناعي
يبدأ نهجنا في التعامل مع الأمان بأساس قوي، يتضمن وسائل الحماية التقليدية مثل وضع الحماية وأمن نقطة النهاية والمقاومة السريعة للحقن. علاوة على ذلك، تستخدم خارطة طريق التحكم في الذكاء الاصطناعي محاذاة النموذج، أي تدريب الذكاء الاصطناعي ليكون آمنًا ومفيدًا بطبيعته، كدفاع أساسي. فهو يوفر طبقة إضافية من الأمان من خلال التعامل مع الوكلاء الداخليين على أنهم من المحتمل أن يكونوا غير مصطفين، مما يوفر ضمانًا حتى لو كانت المواءمة غير كاملة.
فكر في الأمر كمدرب قيادة بعناصر تحكم مزدوجة. يثق المدرب بالطالب ولكنه يظل مستعدًا لأخذ عجلة القيادة أو الضغط على الفرامل في حالة حدوث خطأ. وبالمثل، يمنح نظام التحكم في الذكاء الاصطناعي الخاص بنا وكلاء الذكاء الاصطناعي أذونات بناءً على سلوكهم الذي تم التحقق منه، مما يسمح لنا ببناء الثقة من خلال الوصول المتزايد الخاضع للتحكم.
إن خريطة الطريق الخاصة بنا مبنية على افتراض بسيط ولكنه حذر: ماذا لو لم يكن وكيل الذكاء الاصطناعي ذو القدرة العالية متوافقًا مع أهدافنا ويتصرف بطرق غير متوقعة؟ ولمعالجة هذه المشكلة، تركز خطتنا على ثلاثة مجالات رئيسية.
أولا، باتباع أفضل الممارسات في مجال الأمن السيبراني، قمنا بتطوير إطار جديد لنمذجة التهديدات للذكاء الاصطناعي. تتعامل خارطة الطريق مع عملاء الذكاء الاصطناعي غير الموثوق بهم باعتبارهم “تهديدات داخلية” محتملة – على غرار الطريقة التي تتعامل بها الشركة مع موظف مارق محتمل لديه بالفعل إمكانية الوصول إلى المكتب. من خلال البناء على إطار عمل MITRE ATT&CK المتوافق مع معايير الصناعة، وهو قاعدة معرفية يمكن الوصول إليها عالميًا لتكتيكات وتقنيات الخصم بناءً على ملاحظات العالم الحقيقي، فإننا نقوم بتقسيم الهجمات المحتملة إلى تكتيكات وتقنيات أصغر. وهذا يسمح لنا بتتبع المخاطر بشكل منهجي، واكتشاف السلوك السيئ قبل أن يسبب الضرر وإجراء التدريبات بأمان لاختبار ما إذا كانت دفاعاتنا صامدة بالفعل.
ثانيًا، نقوم بتطوير خطة لنشر وسائل تخفيف التحكم في الذكاء الاصطناعي لمعالجة هذه المخاطر.
- تحديد المشكلة (الكشف): المراقبة هي العمود الفقري للتحكم في الذكاء الاصطناعي. نحن نستخدم أنظمة ذكاء اصطناعي أخرى موثوقة كـ “مشرفين” لمراجعة أسباب الوكيل العامل وإجراءاته وخططه باستمرار لمعرفة ما إذا كان يخرج عن المسار الصحيح.
- إدارة المشكلة (المنع والاستجابة): إذا رأى المشرف أن الوكيل يحاول القيام بشيء ضار، فيمكنه التدخل لمنع الإجراء قبل حدوث الضرر.
أخيرًا، لضمان عمل أنظمتنا، نقوم باستمرار بقياس الأداء عبر ثلاثة مقاييس مهمة: التغطية (جزء من حركة المرور التي يتم مراقبتها)، والتذكر (جزء من السلوكيات المنحرفة التي تم اكتشافها)، ووقت الاستجابة.
توسيع نطاق الأمان مع زيادة ذكاء الذكاء الاصطناعي
ومع استمرار تقدم نماذج الذكاء الاصطناعي، يجب أيضًا تعزيز دفاعاتنا جنبًا إلى جنب. في خارطة طريق التحكم في الذكاء الاصطناعي الخاصة بنا، نقوم بتعيين بروتوكولات الأمان لمعالم قابلة للقياس في قدرات الذكاء الاصطناعي على جبهتين مهمتين:
- القدرة على تجنب الكشف: اليوم، نرصد سلسلة الأفكار المرئية للنموذج. ومع ذلك، عندما تتعلم النماذج إخفاء أسبابها — إما من خلال الوعي الرقابي (مع العلم أنهم مراقبون) أو المنطق المبهم (الاستدلال دون استخدام نص مرئي) – مجرد قراءة تفكيرهم اللفظي لن يكون كافيًا. سنحتاج إلى تحليل سلوكهم وربما فحص الأعمال الداخلية للنموذج.
- القدرة على الضرر المحتمل: بالنسبة للإجراءات منخفضة المخاطر والقابلة للعكس، يمكننا الاعتماد على مراجعة النصوص مع تأخير ومعالجة المشكلات بسرعة بعد حدوثها (استجابة غير متزامنة). وبالنسبة للإجراءات عالية المخاطر بشكل خاص، مثل الهجمات السيبرانية الكبرى، يجب علينا أن نتحول إلى الوقاية في الوقت الحقيقي، ومنع الإجراءات الضارة قبل أن نتمكن من تنفيذها (الاستجابة المتزامنة). وبعبارة أخرى، يجب أن تتناسب استراتيجية الاستجابة لدينا مع شدة التهديد.
