قامت OpenAI ببناء أداة يمكنها اكتشاف الطلاب الذين يغشون من خلال مطالبة ChatGPT بكتابة واجباتهم – ولكن وفقًا لصحيفة وول ستريت جورنال، تناقش الشركة ما إذا كانت ستطلق هذه الأداة فعليًا أم لا.
في بيان تم تقديمه إلى TechCrunch، أكد متحدث باسم OpenAI أن الشركة تبحث عن طريقة وضع العلامات المائية النصية الموضحة في قصة المجلة، لكنه قال إنها تتخذ “نهجًا متعمدًا” لنشر أي شيء للجمهور بسبب “التعقيدات التي ينطوي عليها الأمر واحتمال حدوثه”. التأثير على النظام البيئي الأوسع نطاقًا خارج OpenAI.
وقال المتحدث: “إن طريقة وضع العلامات المائية النصية التي نعمل على تطويرها واعدة من الناحية الفنية، ولكنها تنطوي على مخاطر مهمة نقوم بتقييمها أثناء بحثنا عن بدائل، بما في ذلك قابلية التحايل من قبل الجهات الفاعلة السيئة وإمكانية التأثير بشكل غير متناسب على مجموعات مثل غير الناطقين باللغة الإنجليزية”. .
سيكون هذا نهجًا مختلفًا عن معظم الجهود السابقة لاكتشاف النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي، والتي كانت غير فعالة إلى حد كبير. حتى OpenAI نفسها أغلقت كاشف النص السابق الخاص بها في العام الماضي بسبب “معدل الدقة المنخفض”.
باستخدام العلامات المائية النصية، ستركز OpenAI فقط على اكتشاف الكتابة من ChatGPT، وليس من نماذج الشركات الأخرى. وسيقوم بذلك عن طريق إجراء تغييرات صغيرة على كيفية اختيار ChatGPT للكلمات، مما يؤدي بشكل أساسي إلى إنشاء علامة مائية غير مرئية في الكتابة يمكن اكتشافها لاحقًا بواسطة أداة منفصلة.
بعد نشر قصة المجلة، قامت OpenAI أيضًا بتحديث منشور مدونة في مايو حول أبحاثها حول اكتشاف المحتوى الناتج عن الذكاء الاصطناعي. يقول التحديث أن العلامة المائية النصية أثبتت أنها “دقيقة للغاية وحتى فعالة ضد التلاعب المحلي، مثل إعادة الصياغة”، ولكنها أثبتت أنها “أقل قوة ضد التلاعب العالمي؛ مثل استخدام أنظمة الترجمة، أو إعادة الصياغة باستخدام نموذج توليدي آخر، أو مطالبة النموذج بإدخال حرف خاص بين كل كلمة ثم حذف هذا الحرف.
ونتيجة لذلك، كتبت شركة OpenAI أن هذه الطريقة “تافهة للتحايل من قبل الجهات الفاعلة السيئة”. يعكس تحديث OpenAI أيضًا وجهة نظر المتحدث الرسمي بشأن المتحدثين غير الناطقين باللغة الإنجليزية، حيث إن كتابة أن العلامة المائية النصية يمكن أن “توصم استخدام الذكاء الاصطناعي كأداة كتابة مفيدة لغير الناطقين باللغة الإنجليزية”.
