تخطط Midjourney لإصدار أداة ويب تمت ترقيتها والتي ستسمح للمستخدمين بتحرير أي صور تم تحميلها من الويب باستخدام الذكاء الاصطناعي التوليدي الخاص بـ Midjourney.
ستسمح الأداة التي تمت ترقيتها، والتي قال ديفيد هولتز، الرئيس التنفيذي لشركة Midjourney، إنه سيتم إصدارها “مطلع الأسبوع المقبل”، للمستخدمين أيضًا بإعادة تركيب الكائنات في الصور “لإعادة طلاء” ألوانها وتفاصيلها وفقًا للتسميات التوضيحية.
أصبح تحرير الصور الموجودة باستخدام الذكاء الاصطناعي موضوعًا ساخنًا مؤخرًا. لقد تصارعت منصات مثل Meta مع كيفية تصنيف الصور التي تم تحريرها باستخدام أدوات الذكاء الاصطناعي مقابل تلك التي تم إنشاؤها من الصفر باستخدام نموذج الذكاء الاصطناعي، في حين أصدرت شركات مثل جوجل ميزات قوية للذكاء الاصطناعي لا تعطي أي إشارة مرئية إلى أن الصور تم تعديلها بواسطة الذكاء الاصطناعي.
في العام الماضي، التزمت Midjourney باستخدام خاصية نوع المصدر الرقمي الخاصة بـ IPTC، وهو معيار تقني يدمج البيانات الوصفية في الصور التي تشير إلى أنها تم إنشاؤها بواسطة الذكاء الاصطناعي. ومع ذلك، تعد الشركة واحدة من منصات الذكاء الاصطناعي الرئيسية القليلة التي لم تتبنى C2PA، وهي تقنية بيانات وصفية تتتبع المصدر الكامل للصورة، بما في ذلك المعدات والبرامج المستخدمة في إنشائها.
في منشور على خادم Discord الرسمي لـ Midjourney، قال هولز إن أداة الصورة التي تمت ترقيتها ستقتصر على “مجموعة فرعية من المجتمع الحالي” للبدء، مع زيادة الإشراف البشري بالإضافة إلى “مشرفي الذكاء الاصطناعي الجدد والأكثر تقدمًا” لمحاولة منع إساءة.
وقال: “بصراحة، لسنا متأكدين من كيفية تقييد نشر هذه الميزة بدقة”. تقوم Midjourney بالتماس تعليقات المجتمع من خلال استطلاع رأي ستستخدمه لتحديد المستخدمين الذين يمكنهم الوصول أولاً.
هناك مخاطر في إطلاق هذه الأنواع من أدوات التحرير دون وجود ضمانات كافية. ويمكنها أن تسهل انتهاك حقوق الطبع والنشر على نطاق واسع، أو تشجع على انتشار التزييف العميق المضلل.
تنتشر تقنية التزييف العميق كالنار في الهشيم عبر وسائل التواصل الاجتماعي، مما يزيد من صعوبة التمييز بين الحقيقة والمعلومات المضللة. في الآونة الأخيرة، غمرت صور الذكاء الاصطناعي المزيفة للدمار والمعاناة الإنسانية شبكة الإنترنت في أعقاب إعصار هيلين.
وفقًا لبيانات من Clarity، وهي شركة للكشف عن التزييف العميق، تم إنشاء ونشر المزيد من التزييف العميق بنسبة 900% هذا العام مقارنة بالإطار الزمني نفسه من العام الماضي. إنه يسبب إنذارًا، وهذا أمر مفهوم. أظهر استطلاع حديث أجرته شركة YouGov أن 85% من الأمريكيين كانوا قلقين بشأن انتشار التزييف العميق المضلل عبر الإنترنت.
وفي غياب قانون يجرم التزييف العميق على المستوى الفيدرالي في الولايات المتحدة، قامت أكثر من عشر ولايات بسن قوانين ضد انتحال الشخصية بمساعدة الذكاء الاصطناعي. سيكون قانون ولاية كاليفورنيا – المتوقف حاليًا – هو الأول الذي يمكّن القضاة من إصدار أوامر لملصقات التزييف العميق بإزالتها أو احتمال مواجهة عقوبات مالية.
لم تكن Midjourney مثالًا ساطعًا على النشر المسؤول للذكاء الاصطناعي. (تتم مقاضاتها بسبب استخدامها المزعوم لمحتوى محمي بحقوق الطبع والنشر لتدريب نماذج الذكاء الاصطناعي التوليدية، على سبيل المثال). ولكن في الأشهر الأخيرة، اتخذت المنصة خطوات للحد من انتشار التزييف العميق، بما في ذلك مرشحات الشخصيات السياسية التي سبقت الانتخابات الرئاسية الأمريكية. انتخاب.
