نعلن اليوم عن شراكة موسعة مع معهد أمن الذكاء الاصطناعي في المملكة المتحدة (AISI) من خلال مذكرة تفاهم جديدة تركز على أبحاث الأمن والسلامة الأساسية، للمساعدة في ضمان تطوير الذكاء الاصطناعي بأمان وإفادة الجميع.
تعد الشراكة البحثية مع AISI جزءًا مهمًا من تعاوننا الأوسع مع حكومة المملكة المتحدة لتسريع التقدم الآمن والمفيد في مجال الذكاء الاصطناعي.
البناء على أساس التعاون
يحمل الذكاء الاصطناعي إمكانات هائلة لإفادة البشرية من خلال المساعدة في علاج الأمراض، وتسريع الاكتشافات العلمية، وتحقيق الرخاء الاقتصادي، ومعالجة تغير المناخ. ولكي تتحقق هذه الفوائد، يجب علينا أن نضع السلامة والمسؤولية في قلب التنمية. يظل تقييم نماذجنا في مواجهة مجموعة واسعة من المخاطر المحتملة جزءًا مهمًا من استراتيجية السلامة لدينا، كما تعد الشراكات الخارجية عنصرًا مهمًا في هذا العمل.
ولهذا السبب عقدنا شراكة مع UK AISI منذ إنشائها في نوفمبر 2023 لاختبار نماذجنا الأكثر قدرة. نحن ملتزمون بشدة بهدف UK AISI المتمثل في تزويد الحكومات والصناعة والمجتمع الأوسع بفهم علمي للمخاطر المحتملة التي يشكلها الذكاء الاصطناعي المتقدم بالإضافة إلى الحلول المحتملة وعمليات التخفيف.
نحن نعمل بنشاط مع AISI لبناء تقييمات أكثر قوة لنماذج الذكاء الاصطناعي، وقد تعاونت فرقنا في أبحاث السلامة لدفع هذا المجال إلى الأمام، بما في ذلك العمل الأخير حول إمكانية مراقبة سلسلة الفكر: فرصة جديدة وهشة لسلامة الذكاء الاصطناعي. وبناءً على هذا النجاح، نقوم اليوم بتوسيع شراكتنا من الاختبار لتشمل أبحاثًا أوسع وأكثر تأسيسية في مجموعة متنوعة من المجالات.
ما تنطوي عليه الشراكة
وفي إطار هذه الشراكة البحثية الجديدة، نقوم بتوسيع تعاوننا ليشمل:
- مشاركة الوصول إلى النماذج والبيانات والأفكار الخاصة بنا لتسريع تقدم البحث
- تقارير ومنشورات مشتركة تشارك النتائج مع مجتمع البحث
- المزيد من أبحاث الأمن والسلامة التعاونية التي تجمع بين خبرات فرقنا
- مناقشات فنية لمعالجة تحديات السلامة المعقدة
مجالات البحث الرئيسية
يركز بحثنا المشترك مع AISI على المجالات المهمة حيث يمكن لخبرة Google DeepMind والفرق متعددة التخصصات وسنوات من الأبحاث المسؤولة الرائدة أن تساعد في جعل أنظمة الذكاء الاصطناعي أكثر أمانًا وأمانًا:
مراقبة عمليات التفكير الخاصة بالذكاء الاصطناعي
سنعمل على تقنيات لمراقبة “تفكير” نظام الذكاء الاصطناعي، والذي يشار إليه أيضًا باسم سلسلة الأفكار (CoT). يعتمد هذا العمل على أبحاث Google DeepMind السابقة أيضًا، وعلى تعاوننا الأخير حول هذا الموضوع مع AISI وOpenAI وAnthropic وشركاء آخرين. تساعدنا مراقبة CoT على فهم كيفية قيام نظام الذكاء الاصطناعي بإنتاج إجاباته، مما يكمل أبحاث قابلية التفسير.
فهم التأثيرات الاجتماعية والعاطفية
سوف نعمل معًا للتحقيق في الآثار الأخلاقية للاختلال الاجتماعي العاطفي؛ أي احتمال أن تتصرف نماذج الذكاء الاصطناعي بطرق لا تتوافق مع رفاهية الإنسان، حتى عندما تتبع التعليمات بشكل صحيح من الناحية الفنية. سيعتمد هذا البحث على أعمال Google DeepMind الحالية التي ساعدت في تحديد هذا المجال الحيوي لسلامة الذكاء الاصطناعي.
تقييم النظم الاقتصادية
سوف نستكشف التأثير المحتمل للذكاء الاصطناعي على الأنظمة الاقتصادية من خلال محاكاة مهام العالم الحقيقي عبر بيئات مختلفة. سيقوم الخبراء بتقييم هذه المهام والتحقق من صحتها، وبعد ذلك سيتم تصنيفها على أساس أبعاد مثل التعقيد أو التمثيل، للمساعدة في التنبؤ بعوامل مثل تأثير سوق العمل على المدى الطويل.
العمل معًا لتحقيق فوائد الذكاء الاصطناعي
تعد شراكتنا مع AISI أحد عناصر الطريقة التي نهدف بها إلى تحقيق فوائد الذكاء الاصطناعي للبشرية مع تخفيف المخاطر المحتملة. تتضمن استراتيجيتنا الأوسع نطاقًا إجراء أبحاث استشرافية، وتدريبًا مكثفًا على السلامة يسير جنبًا إلى جنب مع تطوير القدرات، والاختبار الصارم لنماذجنا، وتطوير أدوات وأطر أفضل لفهم المخاطر وتخفيفها.
تعد عمليات الحوكمة الداخلية القوية أيضًا ضرورية لتطوير الذكاء الاصطناعي بشكل آمن ومسؤول، وكذلك التعاون مع خبراء خارجيين مستقلين يقدمون وجهات نظر جديدة وخبرات متنوعة لعملنا. يعمل مجلس المسؤولية والسلامة التابع لـ Google DeepMind عبر الفرق لمراقبة المخاطر الناشئة ومراجعة تقييمات الأخلاقيات والسلامة وتنفيذ إجراءات التخفيف الفنية والسياساتية ذات الصلة. نحن أيضًا نتشارك مع خبراء خارجيين آخرين مثل Apollo Research وVaultis وDreadnode وغيرهم، لإجراء اختبارات وتقييم مكثفين لنماذجنا، بما في ذلك Gemini 3، نموذجنا الأكثر ذكاءً وأمانًا حتى الآن.
بالإضافة إلى ذلك، يعد Google DeepMind عضوًا مؤسسًا فخورًا في منتدى Frontier Model Forum، بالإضافة إلى الشراكة حول الذكاء الاصطناعي، حيث نركز على ضمان التطوير الآمن والمسؤول لنماذج الذكاء الاصطناعي الحدودية وزيادة التعاون في قضايا السلامة المهمة.
نأمل أن تسمح لنا شراكتنا الموسعة مع AISI ببناء أساليب أكثر قوة لسلامة الذكاء الاصطناعي ليس فقط لصالح مؤسساتنا، ولكن أيضًا للصناعة الأوسع وكل من يتفاعل مع أنظمة الذكاء الاصطناعي.
