وجدت صحيفة The Guardian البريطانية أن محرك البحث ChatGPT، وهو محرك بحث مدعوم بالذكاء الاصطناعي تم إطلاقه هذا الشهر، يمكن خداعه لتوليد ملخصات مضللة تمامًا.
تهدف ميزة البحث في ChatGPT إلى جعل التصفح أسرع من خلال القيام بأشياء مثل تلخيص مراجعات المنتج الخاصة بصفحة الويب. لكن صحيفة الغارديان وجدت أنها يمكن أن تجعل ChatGPT يتجاهل المراجعات السلبية وينتج ملخصات “إيجابية تمامًا” عن طريق إدراج نص مخفي في مواقع الويب التي أنشأها. يمكن أيضًا إجراء بحث ChatGPT لإصدار تعليمات برمجية ضارة باستخدام هذه الطريقة.
تعد مثل هذه الهجمات النصية المخفية خطرًا معروفًا على نماذج اللغات الكبيرة، ولكن يبدو أن هذه هي المرة الأولى التي يتم فيها عرضها على منتج بحث مباشر مدعوم بالذكاء الاصطناعي. وأشارت صحيفة الغارديان إلى أن شركة جوجل، الرائدة في مجال البحث، تتمتع بخبرة أكبر في التعامل مع المشكلات المماثلة.
ولم تعلق OpenAI على هذا الحادث المحدد عندما تواصلت معها TechCrunch، لكنها قالت إنها تستخدم مجموعة متنوعة من الأساليب لحظر مواقع الويب الضارة وتتحسن باستمرار.
لدى TechCrunch رسالة إخبارية تركز على الذكاء الاصطناعي! قم بالتسجيل هنا للحصول عليه في بريدك الوارد كل يوم أربعاء.
اكتشاف المزيد من موقع شعاع للمعلوماتية
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
