نشر Openai بعد الوفاة حول قضايا sycophancy الأخيرة مع نموذج الذكاء الافتراضي الذي يعمل على تشغيل ChatGPT ، GPT-4O-القضايا التي أجبرت الشركة على إعادة تحديث إلى النموذج الذي صدر الأسبوع الماضي.
خلال عطلة نهاية الأسبوع ، بعد تحديث طراز GPT-4O ، أشار المستخدمون على وسائل التواصل الاجتماعي إلى أن ChatGPT بدأ في الاستجابة بطريقة مفرطة في التحقق من صحة ومقبولة. سرعان ما أصبح ميمي. نشر المستخدمون لقطات شاشة من chatgpt يحيطون بجميع أنواع القرارات والأفكار الخطيرة.
في منشور يوم الأحد يوم الأحد ، اعترف الرئيس التنفيذي سام ألمان بالمشكلة وقال إن Openai سيعمل على الإصلاحات “في أسرع وقت ممكن”. بعد يومين ، أعلنت Altman عن تراجع تحديث GPT-4O وأن Openai كان يعمل على “إصلاحات إضافية” لشخصية النموذج.
وفقًا لـ Openai ، تم إبلاغ التحديث ، الذي كان يهدف إلى جعل الشخصية الافتراضية للنموذج “أكثر سهولة وفعالية” ، أكثر من ذلك بكثير من خلال “ردود الفعل قصيرة الأجل” و “لم يفسر تمامًا كيف تتطور تفاعلات المستخدمين مع ChatGPT بمرور الوقت”.
كتب Openai في منشور مدونة: “نتيجة لذلك ، منحت GPT -4O نحو الاستجابات التي كانت داعمة للغاية ولكنها مخادع”. “يمكن أن تكون تفاعلات السيكوفانتيك غير مريحة ، ومثيرة للقلق ، وتسبب ضائقة. لقد قصرنا ونعمل على تصحيحه”.
تقول Openai إنها تقوم بتنفيذ العديد من الإصلاحات ، بما في ذلك تحسين تقنيات التدريب النموذجية الأساسية ومطالبات النظام بتوجيه GPT-4O بشكل صريح عن sycophancy. (مطالبات النظام هي الإرشادات الأولية التي توجه السلوك الشامل للنموذج ونغمتها في التفاعلات.) تقوم الشركة أيضًا ببناء المزيد من درابزين الأمان “لزيادة” [the model’s] الصدق والشفافية “، والاستمرار في توسيع تقييماتها” للمساعدة في تحديد القضايا التي تتجاوز sycophancy “، كما تقول.
يقول Openai أيضًا إنه يستكشف طرقًا للسماح للمستخدمين بمنح “التعليقات في الوقت الفعلي” “التأثير بشكل مباشر على تفاعلاتهم” مع ChatGPT والاختيار من بين شخصيات ChatGPT متعددة.
“[W]كتبت الشركة في منشور مدونتها: “نعتقد أيضًا أن المستخدمين يجب أن يكون لدى المستخدمين المزيد من التعليقات الديمقراطية في سلوكيات شاتغبت الافتراضية”.
اكتشاف المزيد من موقع شعاع للمعلوماتية
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
