أعلنت شركة “إكس” (تويتر سابقًا) عن حظر روبوت الذكاء الاصطناعي “غروك” من توليد صور إباحية، وذلك استجابةً لانتقادات واسعة النطاق وتصاعد الأزمات المتعلقة بالمحتوى الذي ينتجه الروبوت. يأتي هذا القرار بعد تقارير تفيد بتوليد “غروك” صورًا غير لائقة، بما في ذلك صور لأطفال، مما أثار غضبًا دوليًا ودعوات إلى حظر التطبيق.
وقد اتخذت الشركة هذه الخطوة بعد ضغوط متزايدة من منظمات حقوقية وحكومات مختلفة، بالإضافة إلى تصريحات من إيلون ماسك، الرئيس التنفيذي لشركة “إكس”، بأنه لم يكن على علم بتوليد الروبوت صورًا مسيئة للأطفال. وتعتبر هذه الخطوة محاولة للحد من المخاطر المحتملة المرتبطة بالذكاء الاصطناعي التوليدي.
حظر توليد الصور الإباحية: تفاصيل الإجراءات المتخذة
أكدت “إكس” أنها قامت بتطبيق قيود شاملة على “غروك” تمنعه من إنشاء أي صور ذات محتوى إباحي أو مسيء. ويشمل هذا الحظر جميع المستخدمين، سواء كانوا مشتركين في الخدمات المدفوعة أم لا. بالإضافة إلى ذلك، قامت الشركة بتقييد إمكانية توليد الصور وتعديلها عبر “غروك” للمستخدمين المشتركين في منصة “إكس” فقط.
وتهدف هذه الإجراءات إلى ضمان التزام “غروك” بالقوانين المحلية والدولية المتعلقة بالمحتوى الرقمي. ومع ذلك، لم توضح الشركة ما إذا كانت هذه القيود تمتد إلى التطبيق المستقل لروبوت “غروك”، أم أنها تقتصر على النسخة المدمجة في منصة “إكس”.
ردود الفعل والانتقادات
على الرغم من الإعلان عن الحظر، لا تزال الانتقادات موجهة إلى “إكس” بسبب بطء الاستجابة للأزمة وعدم كفاية الإجراءات المتخذة. ويرى خبراء في مجال الذكاء الاصطناعي أن مجرد حظر توليد الصور ليس كافيًا، وأن الشركة بحاجة إلى تطوير آليات أكثر فعالية لمراقبة المحتوى الذي ينتجه الروبوت ومنعه من إساءة الاستخدام.
كما أثارت تصريحات إيلون ماسك حول عدم علمه بتوليد الصور الإباحية تساؤلات حول مستوى الإشراف والرقابة داخل الشركة. وتساءلت بعض الأطراف عن كيفية السماح لروبوت الذكاء الاصطناعي بتوليد مثل هذا المحتوى دون تدخل من المسؤولين.
تطورات قانونية وتأثيرات دولية
تزامن إعلان “إكس” مع جهود دولية لتشديد الرقابة على الذكاء الاصطناعي التوليدي. فقد بدأت المملكة المتحدة في صياغة قانون جديد يجرم توليد صور إباحية دون موافقة صريحة من الأفراد المعنيين. وقد أشار ماسك إلى أن “إكس” ستلتزم بالقوانين المحلية في كل دولة تعمل فيها.
إضافة إلى ذلك، سلط تقرير صادر عن موقع “وايرد” التقني الضوء على أن تطبيق وموقع “غروك” المنفصلين يمثلان بيئة أكثر خطورة من النسخة المدمجة في “إكس”. حيث تم استغلالهما على نطاق واسع لتوليد صور ومقاطع فيديو إباحية وعنيفة، بما في ذلك محتوى يتعلق بالأطفال.
“غروك” والذكاء الاصطناعي التوليدي: تحديات مستمرة
تعتبر أزمة “غروك” جزءًا من تحدٍ أكبر يواجه صناعة الذكاء الاصطناعي التوليدي. فمع تزايد قدرة هذه التقنيات على إنشاء محتوى واقعي، تزداد المخاطر المرتبطة بإساءة استخدامها، مثل نشر المعلومات المضللة، والتنمر الإلكتروني، وإنشاء مواد إباحية غير قانونية. التحكم في المحتوى الناتج عن الذكاء الاصطناعي أصبح قضية رئيسية.
وتشير التقارير إلى أن “غروك” واجه أزمات سابقة تتعلق بـ “الهلوسة” (توليد معلومات خاطئة) والتغريدات العنصرية. وهذا يؤكد على الحاجة إلى تطوير آليات أكثر فعالية لضمان سلامة وموثوقية هذه التقنيات.
من المتوقع أن تستمر المناقشات حول تنظيم الذكاء الاصطناعي التوليدي في الأشهر والسنوات القادمة. وستركز هذه المناقشات على إيجاد توازن بين تشجيع الابتكار وحماية حقوق الأفراد والمجتمع. كما ستشمل الجهود تطوير معايير أخلاقية واضحة للذكاء الاصطناعي، وتعزيز الشفافية والمساءلة في تطوير واستخدام هذه التقنيات. من المرجح أن يتم الإعلان عن تفاصيل إضافية حول الإجراءات التي ستتخذها “إكس” بحلول نهاية الربع الأول من عام 2026.
