تعمل Google على توفير SynthID Text، وهي تقنيتها التي تتيح للمطورين وضع علامة مائية واكتشاف النص المكتوب بواسطة نماذج الذكاء الاصطناعي التوليدية، وهي متاحة بشكل عام.
يمكن تنزيل نص SynthID من منصة الذكاء الاصطناعي Hugging Face ومجموعة أدوات Responsible GenAI Toolkit المحدثة من Google.
وكتبت الشركة في منشور على X: “نحن نفتح المصدر لأداة العلامات المائية SynthID Text الخاصة بنا”. “وهي متاحة مجانًا للمطورين والشركات، وستساعدهم في تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.”
فكيف يعمل SynthID Text بالضبط؟
بالنظر إلى سؤال مثل “ما هي فاكهتك المفضلة؟”، تتنبأ نماذج توليد النص بالرمز “الرمزي” الذي من المرجح أن يتبع رمزًا آخر – رمزًا واحدًا في كل مرة. الرموز المميزة، والتي يمكن أن تكون حرفًا واحدًا أو كلمة واحدة، هي اللبنات الأساسية التي يستخدمها النموذج التوليدي لمعالجة المعلومات. يقوم النموذج بتعيين درجة لكل رمز مميز محتمل، وهي النسبة المئوية لاحتمال تضمينه في النص الناتج. تقول Google إن نص SynthID يقوم بإدراج معلومات إضافية في توزيع الرمز المميز هذا عن طريق “تعديل احتمالية إنشاء الرموز المميزة”.
وكتبت الشركة في منشور بالمدونة: “النمط النهائي للنتائج لكل من اختيارات الكلمات للنموذج بالإضافة إلى درجات الاحتمالية المعدلة يعتبر علامة مائية”. “تتم مقارنة هذا النمط من الدرجات مع النمط المتوقع للدرجات للنص الذي يحمل علامة مائية وغير مائية، مما يساعد SynthID على اكتشاف ما إذا كانت أداة الذكاء الاصطناعي قد أنشأت النص أو ما إذا كان قد يأتي من مصادر أخرى.”
تدعي Google أن SynthID Text، الذي تم دمجه مع نماذج Gemini الخاصة بها منذ ربيع هذا العام، لا يؤثر على جودة أو دقة أو سرعة إنشاء النص، ويعمل حتى على النص الذي تم اقتصاصه أو إعادة صياغته أو تعديله.
لكن الشركة تعترف أيضًا بأن أسلوبها في وضع العلامات المائية له قيود.
على سبيل المثال، لا يعمل SynthID Text بشكل جيد مع النص القصير، أو مع النص الذي تمت إعادة كتابته أو ترجمته من لغة أخرى، أو مع الردود على الأسئلة الواقعية. توضح الشركة: “فيما يتعلق بالاستجابات للمطالبات الواقعية، هناك فرص أقل لضبط توزيع الرمز المميز دون التأثير على الدقة الواقعية”. “يتضمن ذلك مطالبات مثل “ما هي عاصمة فرنسا؟”، أو الاستعلامات التي لا يتوقع فيها سوى القليل من الاختلاف أو لا يتوقع أي تغيير على الإطلاق، مثل “إلقاء قصيدة لويليام وردزورث”.”
جوجل ليست الشركة الوحيدة التي تعمل على تقنية العلامات المائية النصية AI. قامت OpenAI لسنوات بالبحث في طرق وضع العلامات المائية، لكنها أخرت إصدارها لاعتبارات فنية وتجارية.
يمكن لتقنيات وضع العلامات المائية على النصوص، إذا تم اعتمادها على نطاق واسع، أن تساعد في تحويل المد إلى “أجهزة كشف الذكاء الاصطناعي” غير الدقيقة – ولكنها شائعة بشكل متزايد – والتي تشير بشكل زائف إلى المقالات والأبحاث المكتوبة بصوت أكثر عمومية. لكن السؤال هو: هل سيتم اعتمادها على نطاق واسع، وهل سيفوز المعيار أو التكنولوجيا التي تقترحها إحدى المنظمات على غيرها؟
قد تكون هناك قريبًا آليات قانونية تجبر أيدي المطورين. وقد أدخلت الحكومة الصينية علامة مائية إلزامية على المحتوى الذي ينشئه الذكاء الاصطناعي، وتتطلع ولاية كاليفورنيا إلى القيام بالشيء نفسه.
هناك إلحاح لهذا الوضع. وفقا لتقرير صادر عن وكالة إنفاذ القانون في الاتحاد الأوروبي، يمكن إنشاء 90٪ من المحتوى عبر الإنترنت بشكل صناعي بحلول عام 2026، مما يؤدي إلى تحديات جديدة في مجال إنفاذ القانون حول التضليل والدعاية والاحتيال والخداع. وبالفعل، قد يكون ما يقرب من 60% من جميع الجمل الموجودة على الويب قد تم إنشاؤها بواسطة الذكاء الاصطناعي، وفقًا لدراسة أجرتها AWS – وذلك بفضل الاستخدام الواسع النطاق لمترجمي الذكاء الاصطناعي.
اكتشاف المزيد من موقع شعاع للمعلوماتية
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
