يتزايد تهديد التزييف العميق مع توفر أدوات الذكاء الاصطناعي اللازمة لإنشائها على نطاق واسع. كانت هناك زيادة بنسبة 245% في التزييف العميق في جميع أنحاء العالم من عام 2023 إلى عام 2024، وهو ارتفاع مدفوع جزئيًا بالدورات الانتخابية القادمة، وفقًا لمزود التحقق Sumsub. كما أنه يؤثر على قطاع الشركات. وجد استطلاع حديث لموقع Business.com أن 10% من الشركات واجهت عمليات احتيال بمساعدة التزييف العميق، مثل الأصوات المستنسخة.
ومن غير المستغرب أن يكون هذا الاتجاه بمثابة مكاسب غير متوقعة للشركات التي تقوم بتسويق الأدوات للدفاع ضد التزييف العميق والتقنيات المستخدمة لإنتاجها. أعلنت إحدى هذه الشركات، Pindrop، يوم الأربعاء أنها حصلت على قرض بقيمة 100 مليون دولار لمدة خمس سنوات من Hercules Capital، والذي يقول الرئيس التنفيذي فيجاي بالاسوبرامانيان إنه تم تخصيصه لتطوير المنتجات والتوظيف.
وقال بالاسوبرامانيان لـ TechCrunch: “مع التقدم في الذكاء الاصطناعي التوليدي، أصبح استنساخ الصوت على وجه الخصوص أداة قوية”. “أصبح اكتشاف التزييف العميق باستخدام تقنيات الكشف عن الذكاء الاصطناعي مطلوبًا الآن من قبل كل مركز اتصال للبقاء متقدمًا بخطوة على المحتالين.”
تقوم Pindrop ببناء منتجات لمكافحة التزييف العميق ومنتجات مصادقة متعددة العوامل تستهدف الشركات في مجال الخدمات المصرفية والمالية والصناعات ذات الصلة. تدعي الشركة أن أدواتها يمكنها تحديد هوية المتصلين بمركز الاتصال، على سبيل المثال، وبدقة أعلى من الحلول المنافسة.
وقال بالاسوبرامانيان: “يستفيد Pindrop من مجموعة بيانات تضم أكثر من 20 مليون كلام، سواء الاصطناعي أو الحقيقي، لتدريب نماذج الذكاء الاصطناعي على التمييز بين الأصوات البشرية الحقيقية والأصوات المولدة صناعياً”. “لقد قمنا أيضًا بتدريب أكثر من 330 نموذجًا لتحويل النص إلى كلام (TTS) للمساعدة في تحديد نماذج TTS المستخدمة لإنشاء التزييف العميق.”
يعد التحيز مشكلة شائعة في نماذج الكشف عن التزييف العميق. تميل العديد من النماذج الصوتية إلى الانحياز نحو التعرف على الأصوات الغربية والأمريكية، ويكون أداؤها سيئًا عند استخدام لهجات ولهجات مختلفة، مما قد يدفع الكاشف إلى تصنيف الصوت الشرعي على أنه صوت مزيف عميق.
الأمر متروك للنقاش حول ما إذا كانت بيانات التدريب الاصطناعية – بيانات التدريب التي تم إنشاؤها بواسطة نماذج الذكاء الاصطناعي نفسها – تخفف من التحيزات أو تؤدي إلى تفاقمها. في الحقيقة، يعتقد بالاسوبرامانيان السبب الأول ويدعي أن منتجات التحقق الصوتي من Pindrop تركز على “السمات الصوتية والطيفية والزمانية” للأصوات بدلاً من النطق أو اللغة.
وقال بالاسوبرامانيان: “تميل أنظمة التعرف على الصوت القائمة على الذكاء الاصطناعي إلى عرض نتائج متحيزة نحو الاختلافات النغمية واللهجة والعامية واللهجة التي يمكن أن يكون لها آثار عنصرية”. “هذه التحيزات مستمدة من تجانس البيانات المستخدمة لتدريب الأنظمة التي قد تفتقر إلى تمثيل مختلف الاختلافات العرقية أو العرقية أو الجنسية أو غيرها، مما يحد من تنوع البيانات التي يتم تدريب أنظمة الذكاء الاصطناعي عليها.”
وبغض النظر عن فعالية منتجاتها، فقد حققت شركة Pindrop نجاحات كبيرة منذ عام 2011، عندما أسس بالاسوبرامانيان، وهو موظف سابق في جوجل، الشركة مع بول جادج، كبير مسؤولي الأبحاث السابق في شركة باراكودا نتوركس، وموستاك أحمد. حتى الآن، قامت الشركة التي يقع مقرها في أتلانتا، والتي توظف حوالي 250 شخصًا، بجمع 234.77 مليون دولار من رأس المال الاستثماري من المستثمرين بما في ذلك Vitruvian Partners وCapitalG وIVP وAndreessen Horowitz.
وعندما سُئل عن سبب اختيار بندروب للدين بدلاً من الأسهم هذه المرة، قال بالاسوبرامانيان إنه “خيار جذاب” “لزيادة رأس مال النمو بكفاءة” دون إضعاف أسهم بندروب. (هذه استراتيجية مشتركة.)
وأضاف بالاسوبرامانيان أن عائدات القرض ستمكن شركة Pindrop من جلب التكنولوجيا الخاصة بها إلى قطاعات جديدة، مثل الرعاية الصحية وتجارة التجزئة والإعلام والسفر.
وقال بالاسوبرامانيان: “مع ظهور الذكاء الاصطناعي التوليدي، نشهد طلبًا هائلاً على حلولنا في جميع أنحاء العالم، ونخطط للنظر في التوسع في البلدان التي تشهد تهديدات كبيرة بسبب التزييف العميق”. “إن Pindrop في وضع يسمح لها بمساعدة الشركات على حماية نفسها وعملائها من تزايد الاحتيال وتهديدات التزييف العميق من خلال حلول منع الاحتيال والمصادقة والحيوية.”
اكتشاف المزيد من موقع شعاع للمعلوماتية
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
