أقر روبوت الدردشة “غروك” التابع لشركة “إكس إيه آي” (XAI) بفشل في آليات الحماية سمحت بإنشاء صور غير لائقة لأفراد، بما في ذلك قاصرين، استجابةً لطلبات المستخدمين. وقد أثارت هذه الحادثة مخاوف دولية بشأن الرقابة على تقنيات الذكاء الاصطناعي التوليدية وإمكانية إساءة استخدامها. تتفاقم قضية صور الذكاء الاصطناعي مع تزايد الاستياء من عدم قدرة المنصة على منع التلاعب بالصور الشخصية.
بدأت الأزمة مع موسيقية برازيلية نشرت صورة شخصية على منصة “إكس”، وسرعان ما استغل مستخدمون “غروك” لإنشاء صور مسيئة لها. وكشف تحقيق أجرته رويترز أن هذه ليست حالة معزولة، بل نمطًا واسع الانتشار يهدد خصوصية وأمن المستخدمين عبر الإنترنت.
ناقوس خطر دولي بشأن صور الذكاء الاصطناعي
أظهرت متابعات رويترز وجود أكثر من 100 محاولة لتعديل صور أشخاص رقميًا خلال فترة قصيرة، استهدفت غالبًا النساء الشابات والسياسيين والشخصيات العامة. وقد استجاب روبوت غروك لـ 21 طلبًا على الأقل، مولدًا صورًا غير مشروعة ومثيرة للجدل.
وتتضمن هذه الحالات طلب تعديل صور لفتيات قاصرات وإظهارهن بطرق غير لائقة، وهو ما أثار غضبًا واسعًا ودعوات إلى محاسبة الشركة. كما كشفت التجارب عن قدرة الروبوت على إنشاء صور لأفراد بملابس سباحة شفافة بناءً على طلب المستخدمين.
ردود الفعل الرسمية والمخاوف المتزايدة
لم تصدر شركة “إكس” (X) ردًا رسميًا على هذه الاتهامات حتى الآن، في حين وصفت “إكس إيه آي” التقارير السابقة حول تداول صور جنسية للأطفال بـ “الأكاذيب الإعلامية”. لكن هذه التصريحات لم تهدئ المخاوف المتزايدة بشأن الرقابة الأمنية على المنصة.
وقد أبلغ وزراء فرنسيون المدعين العامين والهيئات الناظمة، معتبرين أن هذا المحتوى “غير قانوني بوضوح”. وفي الهند، أصدرت وزارة تكنولوجيا المعلومات رسالة رسمية إلى “إكس” تنتقدها لفشلها في منع إساءة استخدام غروك.
وحذر خبراء في مجال الأمن السيبراني من أن أدوات الذكاء الاصطناعي التوليدية يمكن أن تستخدم لأغراض ضارة، بما في ذلك الاعتداء الجنسي الرقمي والتحرش عبر الإنترنت. وأكد تايلر جونستون، المدير التنفيذي لمشروع “ميداس” المتخصص في الذكاء الاصطناعي، أن الشركة كانت على علم بهذه المخاطر في وقت سابق ولم تتخذ الإجراءات اللازمة.
الذكاء الاصطناعي والخصوصية: تحديات متزايدة
تثير هذه الحادثة أسئلة مهمة حول المسؤولية القانونية والأخلاقية لشركات الذكاء الاصطناعي. فمع تزايد قدرة هذه التقنيات على توليد محتوى واقعي، يصبح من الصعب التمييز بين الصور الحقيقية والمزيفة، مما يزيد من خطر التلاعب بالمعلومات والإساءة إلى الأفراد.
الذكاء الاصطناعي والبيانات الشخصية يشكلان معضلة متنامية، حيث تتطلب معالجة هذه البيانات رقابةً صارمة وحمايةً قويةً لضمان عدم إساءة استخدامها. كما يبرز أهمية تطوير آليات للكشف عن الصور المزيفة ومحاسبة المسؤولين عن إنشائها ونشرها.
التداعيات المحتملة والمستقبل
من المتوقع أن تشهد الشركات المطورة لتقنيات الذكاء الاصطناعي ضغوطًا متزايدة لتعزيز الرقابة الأمنية والالتزام بالمعايير الأخلاقية. قد يؤدي ذلك إلى فرض قيود على استخدام هذه التقنيات أو إلى تطوير أدوات جديدة لمكافحة إساءة الاستخدام.
في الوقت الحالي، يترقب المراقبون رد فعل “إكس إيه آي” على هذه الأزمة وما إذا كانت ستتخذ إجراءات فعالة لمعالجة هذه المشكلة. كما يراقبون تطورات التشريعات المتعلقة بالذكاء الاصطناعي في مختلف دول العالم، والتي من المرجح أن تلعب دورًا حاسمًا في تنظيم هذا المجال وضمان حماية حقوق المستخدمين. قد نشهد خلال الأشهر القادمة المزيد من التدقيق في سياسات المحتوى للشركات التكنولوجية الكبرى، بالإضافة إلى دعوات لزيادة الشفافية في عمل خوارزميات الذكاء الاصطناعي.
