تم الإعلان عن منصة للدردشة ولعب الأدوار مع الشخصيات التي تم إنشاؤها من الذكاء الاصطناعى ، Ai في منشور مدونة يوم الاثنين أنها تطرح قائمة من ميزات الوسائط المتعددة. تشمل هذه الميزات نموذج خلفيات الفيديو Avatarfx ، و Avality.ai ، بالإضافة إلى المشاهد والتدفقات ، والتي تتيح للمستخدمين إنشاء مقاطع فيديو تعرض شخصياتهم ثم مشاركتها في خلاصة اجتماعية جديدة.
“بدأت الحرف. AAI كدردشة نصية 1: 1 واليوم نتطور لفعل الكثير ، مستوحى من ما قاله مستخدمونا [us] وكتبت الشركة في منشور المدونة: “إنهم يريدون أن يروا على المنصة”.
بدأت الحرف. AIR في طرح Avatarfx للمشتركين الشهر الماضي ، ولكن الآن يمكن لجميع المستخدمين إنشاء ما يصل إلى خمسة مقاطع فيديو كل يوم. عند إنشاء مقطع فيديو باستخدام Avatarfx ، يمكن للمستخدمين تحميل صورة لتكون بمثابة أساس لمقطع الفيديو ، واختيار صوت ، وكتابة الحوار للشخصية.
هناك خيار لتحميل مقطع صوتي لإبلاغ صوت الصوت ، على الرغم من أن هذه الميزة لم تكن تعمل بشكل جيد بما يكفي لاختبار عند طرحها.
يمكن للمستخدمين تحويل مقاطع الفيديو هذه إلى مشاهد ، حيث يمكن أن تنزلق شخصياتهم إلى قصص محتملة مسبقًا تنشئها المستخدمون الآخرون. تتوفر المشاهد حاليًا على تطبيق الهاتف المحمول ، لكن التدفقات ، التي تتيح للمستخدمين إنشاء “لحظات ديناميكية بين أي حرفين” ، ستأتي هذا الأسبوع على كل من الويب والهاتف المحمول. يمكن مشاركة هذه المشاهد والتدفقات إلى خلاصة مجتمعية جديدة ، والتي ستظهر قريبًا في تطبيق الهاتف المحمول.
الحرف. AAI لديها سجل حافل من سوء المعاملة على منصتها ؛ قام الآباء برفع دعاوى قضائية ضد الشركة ، مدعيا أن chatbots حاولوا إقناع أطفالهم بإيذاء الذات ، أو قتل أنفسهم ، أو قتل آبائهم. توفي أحد الصبي البالغ من العمر 14 عامًا بسبب الانتحار بعد أن شجعه على القيام بذلك من قبل شخصية. روبوت ، الذي طور معه علاقة غير صحية.
نظرًا لأن character.ai يوسع عروض الوسائط المتعددة ، فإنه يوسع أيضًا إمكانية إساءة استخدام هذه المنتجات.
كما أخبرت character.ai TechCrunch عندما أعلنت Avatarfx ، فإن النظام الأساسي يمنع المستخدمين من تحميل صور للأشخاص الحقيقيين – سواء كانوا من المشاهير أم لا – ويحجب شبههم إلى شيء أقل شهرة.
على سبيل المثال ، هنا إصدار FARERN.AI.
ولكن عندما يتعلق الأمر بالعمل الفني الذي يصور المشاهير ، فإن الشخصية. لا يعلق الصور على أنها تمثل أناسًا حقيقيين – ومع ذلك ، فإن هذه الأنواع من التصوير ستكون أقل عرضة لخداع شخص ما للاعتقاد بأن العميق حقيقي.
بالإضافة إلى ذلك ، character.ai waterks كل مقطع فيديو ، على الرغم من أنه من الممكن للممثلين السيئين التنقل حول هذا الحماية.
فيما يلي مثال على محاولة Deepfake بناءً على توضيح لإيلون موسك:
حتى لو تم إنشاء هذا الفيديو مع صوت Elon Musk الفعلي ، فسيظل من الواضح نسبيًا أن هذا إصدار متحرك من التوضيح – لكن إمكانية الإساءة لا تزال واضحة.
“هدفنا هو توفير مساحة جذابة تعزز الإبداع مع الحفاظ على بيئة آمنة للجميع” ، قالت شخصية. في منشور مدونتها.
