تستمر نماذج اللغات الكبيرة في اختراع عناوين ويب غير موجودة. وقد بدأ المهاجمون في شراء تلك النطاقات المختلقة قبل أن يتمكن أي شخص آخر من ذلك، ثم قاموا باستضافة صفحات تصيد عليها لالتقاط حركة المرور التي تشير إليها أدوات الذكاء الاصطناعي في طريقهم.
الوحدة 42 من شركة بالو ألتو نتوركس تستدعي الحيلة القرفصاء الوهميةويظهر بحثها الجديد أن هذا يحدث بالفعل في البرية.
السبب الذي يهم هو الثقة. يتعامل المطورون ومساعدو الذكاء الاصطناعي بشكل متزايد مع الروابط التي يعيدها النموذج على أنها حقيقية. عندما يخترع نموذج نطاقًا غير موجود بعد، فإن كل من يسجله أولاً يرث كل تلك الثقة التي كانت في غير محلها، دون الحاجة إلى بريد إلكتروني للتصيد الاحتيالي أو إعلانات ضارة.
لقياس المشكلة، طرحت الوحدة 42 على نموذجين للذكاء الاصطناعي 685,339 سؤالاً حول 913 علامة تجارية معروفة في مجالات التكنولوجيا والتمويل والرعاية الصحية والحكومة والقمار وغيرها من القطاعات.
أنتجت النماذج 2.1 مليون رابط. وقد حددت استخبارات التهديدات بالفعل 13,229 منها على أنها ضارة تمامًا، مما يعني أن الذكاء الاصطناعي كان يوزع عناوين سيئة معروفة. ما يقرب من 250.000 من النطاقات المخترعة لم يكن لها مالك بعد، وكل منها هدف جاهز لمن يسجله أولاً.
كيف يعمل القرفصاء الوهمي
ينجح الهجوم لأن النطاق الجديد ليس له أي سمعة. تحتاج قوائم الحظر وموجزات التهديدات ونتائج السمعة إلى أن يسيء الموقع التصرف لفترة من الوقت قبل الإبلاغ عنه.
لا يحتوي النطاق الوهمي المسجل حديثًا على مثل هذا السجل، لذا ليس لدى هذه المرشحات أي شيء يمكن الإبلاغ عنه. وبحلول الوقت الذي يلحقون فيه بالضحية، يكون قد تم بالفعل إرسال الضحية إلى الموقع عن طريق أداة يثقون بها.
هناك تفصيلان يزيدان الأمر سوءًا. لم تكن النطاقات المزيفة موجودة في بيانات التدريب: فقد تم شحن كلا النموذجين قبل وجود المواقع الضارة الحقيقية، وبالتالي فإن العناوين تأتي من أنماط اللغة الخاصة بالنماذج، وليس من الذاكرة. وهذه الأنماط متسقة.
غالبًا ما تخترع نماذج مختلفة نفس النطاق المزيف لنفس السؤال، مما يجعل من السهل تخمين الهدف التالي للمهاجم. أدى تشغيل إعداد “الإبداع” الخاص بالنموذج إلى إنتاج المزيد من المجالات المبتكرة. وكما قال باحثو الوحدة 42، فإن المتجه “يستغل خاصية بنيوية لمعماريات LLM التي تظل بطبيعتها غير قابلة للإصلاح.”
حالتان ملاحظتان
حالتان تظهران الحلقة الكاملة. في 8 مارس 2026، توقع نظام الوحدة 42 أن نماذج الذكاء الاصطناعي ستخترع مجالًا يشبه السوق الإلكتروني للخدمات البريدية الوطنية. قام كلا النموذجين بإنتاجه عند كل إعدادات درجة الحرارة، وهي علامة قوية على أنهما تعاملا مع الموقع المزيف على أنه حقيقة.
وبعد ثلاثة وعشرين يومًا، في 31 مارس، سجل أحد المهاجمين هذا النطاق بالتحديد ووقف مجموعة تصيد تدعى Montana Empire. قامت المجموعة بنسخ واجهة المتجر الحقيقية في الوقت الفعلي. لقد سرق أرقام البطاقات وتفاصيل التحويل المصرفي وبيانات الهوية الوطنية.
يتيح روبوت Telegram للمشغل الموافقة على رموز المرور الخاصة بالضحايا لمرة واحدة يدويًا. الهبة: أظهرت ملفات المشروع المتبقية وسجلات الجلسة أن المجرم قام ببناء المجموعة باستخدام مساعد ترميز الذكاء الاصطناعي. وصل المهاجم والمدافع إلى نفس النطاق المزيف بنفس الطريقة، عن طريق طلب الذكاء الاصطناعي.
وفي الحالة الثانية، قامت الوحدة 42 بوضع علامة على نطاق خدمة بريدية مهلوسة لمدة 51 يومًا كاملة قبل أن يسجله المهاجم. بعد ذلك، قام المهاجم بتغليفها في نسخة مثالية للعلامة التجارية، وأضاف تقييمًا مزيفًا بـ 4.8 نجوم ومطالبة بأكثر من مليوني مستخدم، واستخدمها لدفع تطبيق Android ضار.
انتحلت النطاقات الأخرى المكتشفة شخصية أحد البنوك الإماراتية الكبرى التي كان المهاجم يستغلها منذ ما يقرب من عام، وبنك أوروبي، ومواقع المراهنات الرياضية التي تستهدف المستخدمين في بنغلاديش.
خدعة قديمة بهدف جديد
القرفصاء الوهمي هو إصدار المجال لـ القرفصاء المنحدرحيث يقوم المهاجمون بتسجيل أسماء حزم البرامج المزيفة التي تخترعها أدوات تشفير الذكاء الاصطناعي. وهذا ليس افتراضيا.
وجدت دراسة كبيرة أجرتها USENIX أن نماذج إنشاء التعليمات البرمجية تقترح بشكل روتيني أسماء حزم غير موجودة، وقد حولت حملة PhantomRaven هذا السلوك بالضبط إلى برامج ضارة مخبأة في حزم 126 نانومتر مع أكثر من 86000 عملية تثبيت.
إنه يشير إلى تحول أكبر: أصبح مخرجات النموذج مدخلات. يعمل المطورون والوكلاء وفرق الأمان على الروابط والأسماء التي ينشئها الذكاء الاصطناعي قبل أن يتحقق أي شخص منها، ويستمر الذكاء الاصطناعي في تقليص الوقت الذي يتعين على المدافعين الرد فيه.
كما أنها وصلت أيضًا إلى عالم أصبح فيه التصيد الاحتيالي لانتحال هوية العلامة التجارية الآن خدمة مدفوعة الأجر، حيث تمتلك مجموعات مثل Lucid وLighthouse 17500 نطاقًا مزيفًا ضد 316 علامة تجارية في 74 دولة.
ما يجب القيام به
ونظرًا لأن العارضات يهلوسن باستمرار، يمكن لفرق الأمن تحديد النطاقات المزيفة التي من المحتمل أن تنتجها العارضة ومراقبة أي شخص يقوم بتسجيلها، غالبًا بعد أسابيع من التحذير. بالنسبة لأي شخص آخر، الخطوات العملية بسيطة:
- لا تثق في الرابط لمجرد أن الذكاء الاصطناعي قد أعطاه. تأكد من أن المجال هو النطاق الحقيقي والرسمي قبل كتابة كلمة المرور أو لصقها في الكود.
- منع وكلاء الذكاء الاصطناعي من الفتح أو التنزيل تلقائيًا من الروابط التي تم إنشاؤها بواسطة النموذج دون التحقق. ليس لدى العميل غريزة للتردد كما قد يفعل أي شخص.
- تعامل مع أي شيء يكتبه النموذج كمسودة لم يتم التحقق منها، وليس كسلطة.
هذه النافذة مفتوحة، وهي تكافئ من يتحرك أولاً. السؤال الحقيقي، كما تضعه الوحدة 42، هو ببساطة ما إذا كان المدافعون أو المهاجمون يصلون إلى هذه المجالات في وقت أقرب.
