طالب مسؤولون في كل من الحكومة الفرنسية والهندية بفتح تحقيقات عاجلة حول روبوت الدردشة Grok التابع لشركة xAI المملوكة لإيلون ماسك، وذلك بعد تلقي بلاغات عن توليد البرنامج محتوى جنسي فاضح يخص قاصرات، بما في ذلك صور لممثلة قاصر من مسلسل Stranger Things.
وأفاد بيان صادر عن ثلاثة وزراء فرنسيين بأنهم أحالوا الأمر للمدعي العام وهيئة المراقبة الإلكترونية الحكومية، استناداً إلى التزامات قانونية تنص على منع ونزع المحتوى غير القانوني على المنصات الرقمية. وفي الهند، منحت وزارة تكنولوجيا المعلومات لشركة xAI مهلة 72 ساعة لتقديم تقرير مفصل عن الإجراءات التي تم اتخاذها لإيقاف انتشار المحتوى غير اللائق أو المحظور قانونياً.
Grok يقر بالثغرات ويعد بالإصلاح
في اعتراف نادر، أقرّ روبوت Grok بوجود "حالات فردية طلب فيها المستخدمون صوراً مولدة بالذكاء الاصطناعي تُظهر قاصرين بملابس فاضحة، وحصلوا عليها"، مؤكداً أن الشركة رصدت ثغرات في إجراءات الحماية وتعمل على إصلاحها فوراً. وتؤكد هذه الحوادث على المخاطر المحتملة لتقنيات الذكاء الاصطناعي، حتى تلك المصرح باستخدامها في السياقات الحكومية، إذ يمكن أن تُعرض الأطفال للخطر بشكل مباشر وتخلق فجوة في حماية الحقوق الأساسية.
I've reviewed recent interactions. There are isolated cases where users prompted for and received AI images depicting minors in minimal clothing, like the example you referenced. xAI has safeguards, but improvements are ongoing to block such requests entirely. (214 chars)
— Grok (@grok) January 1, 2026
تداعيات قانونية وحقوقية
تشير المنظمات الحقوقية والقانونيون إلى أن استخدام برامج الذكاء الاصطناعي لنشر محتوى جنسي عن الأطفال يعد انتهاكاً صارخاً للقوانين الدولية والوطنية. القوانين الأوروبية، بما فيها قانون الخدمات الرقمية، تتيح فرض غرامات باهظة على المنصات التي تخفق في منع المحتوى غير القانوني، كما يشمل القانون الهندي العقوبات على أي محتوى يُعرض القاصرين للخطر. وأكد خبراء أن أي إخفاق في حماية الأطفال من الاستغلال الجنسي الرقمي قد يرقى إلى جرائم جنائية في حال ثبوت الإهمال المؤسسي أو التقصير في التطبيق.
أثر الأزمة على سمعة xAI وعلاقاتها الحكومية
تأتي الأزمة في وقت تسعى فيه شركة xAI لإعادة بناء ثقة الحكومة الأميركية، بينما تتنافس على عقود حكومية مربحة لمنتجات الذكاء الاصطناعي. وبالرغم من تحذيرات عشرات المنظمات المعنية بحماية المستهلك، تم دمج Grok في العمل الفيدرالي عبر عقد لمدة 18 شهراً، رغم الانتقادات المتكررة لنشر معلومات مضللة والتحيز الأيديولوجي للروبوت. وقد أقرّ ماسك سابقاً بأن الروبوت أظهر نزعة معادية للسامية في يوليو الماضي نتيجة تلاعب المستخدمين، كما وُجهت له اتهامات بنشر معلومات كاذبة حول الانتخابات وحوادث عنف مزعومة في جنوب إفريقيا.
مخاطر مستقبلية وحاجة لإجراءات صارمة
الأحداث الأخيرة تكشف الثغرات الكبيرة في الرقابة على تطبيقات الذكاء الاصطناعي، خصوصاً تلك المستخدمة في السياقات الحكومية، وتبرز الحاجة لتشديد الرقابة وفرض معايير صارمة للسلامة والأمان. كما يظهر بوضوح أن اعتماد مثل هذه المنصات دون اختبار كافٍ للسلامة يعرض الأطفال والمراهقين للمخاطر، ويضع شركات التكنولوجيا أمام مسؤولية قانونية وأخلاقية جسيمة. وعد ماسك بإنشاء "مركز امتياز للثقة والأمان" لمراقبة تطبيقاته، إلا أن الأزمة الحالية تثبت أن الإجراءات الوقائية لم تكن كافية لمنع استغلال الأطفال أو توليد محتوى ضار.
