أمرت الهند شركة X التابعة لشركة Elon Musk بإجراء تغييرات فنية وإجرائية فورية على برنامج الدردشة الآلي Grok الذي يعمل بالذكاء الاصطناعي بعد أن أبلغ المستخدمون والمشرعون عن إنشاء محتوى “فاحش”، بما في ذلك صور النساء المعدلة بواسطة الذكاء الاصطناعي والتي تم إنشاؤها باستخدام الأداة.
أصدرت وزارة تكنولوجيا المعلومات الهندية يوم الجمعة أمرًا يوجه Musk’s X لاتخاذ إجراءات تصحيحية بشأن Grok، بما في ذلك تقييد إنشاء محتوى يشتمل على “عُري أو إضفاء طابع جنسي أو مواد جنسية صريحة أو غير قانونية”. كما أعطت الوزارة منصة التواصل الاجتماعي 72 ساعة لتقديم تقرير إجرائي يوضح بالتفصيل الخطوات التي اتخذتها لمنع استضافة أو نشر محتوى يعتبر “فاحشًا أو إباحيًا أو مبتذلاً أو غير لائق أو جنسيًا صريحًا أو جنسيًا للأطفال أو محظورًا بموجب القانون”.
حذر الأمر، الذي استعرضته TechCrunch، من أن عدم الامتثال قد يعرض للخطر حماية “الملاذ الآمن” لـ X – الحصانة القانونية من المسؤولية عن المحتوى الذي ينشئه المستخدم بموجب القانون الهندي.
تأتي خطوة الهند في أعقاب المخاوف التي أثارها المستخدمون الذين شاركوا أمثلة عن مطالبة شركة Grok بتغيير صور الأفراد – معظمهم من النساء – لجعلهم يبدون وكأنهم يرتدون البيكينيات، مما دفع البرلمانية الهندية بريانكا شاتورفيدي إلى تقديم شكوى رسمية. بشكل منفصل، أشارت التقارير الأخيرة إلى الحالات التي أنشأ فيها برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي صورًا جنسية تتضمن قاصرين، وهي مشكلة اعترف بها X في وقت سابق يوم الجمعة كانت ناجمة عن ثغرات في الضمانات. وتمت إزالة تلك الصور في وقت لاحق.
ومع ذلك، فإن الصور التي تم إنشاؤها باستخدام Grok والتي جعلت النساء يبدون وكأنهن يرتدين البكيني من خلال تعديل الذكاء الاصطناعي ظلت متاحة على X في وقت النشر، حسبما وجدت TechCrunch.
ويأتي الأمر الأخير بعد أيام من إصدار وزارة تكنولوجيا المعلومات الهندية استشارة واسعة النطاق يوم الاثنين، والتي تمت مراجعتها أيضًا بواسطة TechCrunch، لمنصات التواصل الاجتماعي، لتذكيرهم بأن الامتثال للقوانين المحلية التي تحكم المحتوى الفاحش والمحتوى الجنسي الصريح هو شرط أساسي للاحتفاظ بالحصانة القانونية من المسؤولية عن المواد التي ينشئها المستخدمون. وحثت النصيحة الشركات على تعزيز الضمانات الداخلية وحذرت من أن الفشل في القيام بذلك قد يؤدي إلى اتخاذ إجراءات قانونية بموجب قوانين تكنولوجيا المعلومات والقوانين الجنائية في الهند.
وحذر الأمر من أنه “تم التأكيد مجددًا على أن عدم الامتثال للمتطلبات المذكورة أعلاه يجب أن يُنظر إليه على محمل الجد وقد يؤدي إلى عواقب قانونية صارمة ضد منصتك ومسؤوليها المسؤولين ومستخدمي المنصة الذين ينتهكون القانون، دون أي إشعار آخر”.
حدث تك كرانش
سان فرانسيسكو
|
13-15 أكتوبر 2026
وقالت الحكومة الهندية إن عدم الامتثال قد يؤدي إلى اتخاذ إجراءات ضد X بموجب قانون تكنولوجيا المعلومات الهندي والقوانين الجنائية.
لقد برزت الهند، وهي واحدة من أكبر الأسواق الرقمية في العالم، كحالة اختبار حاسمة لمدى استعداد الحكومات للذهاب في تحميل المنصات المسؤولية عن المحتوى الناتج عن الذكاء الاصطناعي. يمكن أن يكون لأي تشديد في تطبيق القانون في البلاد آثار مضاعفة على شركات التكنولوجيا العالمية العاملة عبر ولايات قضائية متعددة.
ويأتي هذا الأمر في الوقت الذي يواصل فيه Musk’s X تحدي جوانب قواعد تنظيم المحتوى في الهند في المحكمة، بحجة أن سلطات الإزالة الحكومية الفيدرالية تخاطر بالتجاوز، حتى مع امتثال المنصة لأغلبية توجيهات الحظر. في الوقت نفسه، تم استخدام Grok بشكل متزايد من قبل مستخدمي X للتحقق من الحقائق في الوقت الحقيقي والتعليق على الأحداث الإخبارية، مما يجعل مخرجاتها أكثر وضوحا – وأكثر حساسية من الناحية السياسية – من تلك الخاصة بأدوات الذكاء الاصطناعي المستقلة.
ولم تستجب X وxAI على الفور لطلبات التعليق على أمر الحكومة الهندية.
