تدرس الحكومة الصينية فرض قوانين جديدة لتنظيم قطاع روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، وذلك بهدف الحد من تأثيرها النفسي المحتمل على المستخدمين. يأتي هذا الإجراء في ظل تزايد المخاوف بشأن المحتوى الذي تولده هذه الأدوات وتأثيره على الصحة العقلية، خاصةً بين الشباب. وتهدف هذه القوانين إلى ضمان استخدام آمن ومسؤول لتقنيات الذكاء الاصطناعي في الصين.
ووفقًا لتقرير صادر عن موقع “آرس تكنكيا” التقني، فإن هذه القوانين المقترحة تهدف إلى منع روبوتات الدردشة مثل “شات جي بي تي” و “ديب سيك” من التلاعب بمشاعر المستخدمين أو التحريض على العنف أو الانتحار أو إيذاء النفس. وتعتبر هذه الخطوة بمثابة محاولة استباقية للتعامل مع المخاطر المحتملة المرتبطة بتطور الذكاء الاصطناعي.
تنظيم الذكاء الاصطناعي: قوانين صارمة قيد الدراسة
يشير التقرير إلى أنه في حال إقرارها، ستصبح هذه القوانين من بين الأكثر صرامة في العالم التي تستهدف قطاع الذكاء الاصطناعي، وهي الأولى من نوعها. وستطبق هذه القوانين على أي روبوت دردشة متاح داخل الصين ويعتمد على أي وسيلة للتفاعل مع البشر، سواء كانت صورًا أو مقاطع فيديو أو أصواتًا أو غيرها من الطرق.
وتنص القوانين الجديدة على ضرورة وجود تدخل بشري فوري في حالة الإشارة إلى الانتحار، بغض النظر عن عمر المستخدم أو حالته النفسية. بالإضافة إلى ذلك، يجب على كبار السن والقصر إضافة بيانات وصي قانوني عند إنشاء حسابات في روبوتات الدردشة المختلفة. هذا الإجراء يهدف إلى توفير طبقة إضافية من الحماية للمستخدمين الأكثر عرضة للخطر.
حظر المحتوى الضار والتحريض على الجريمة
كما تحظر القوانين الجديدة على روبوتات الذكاء الاصطناعي توليد أي نوع من المحتوى المتعلق بالانتحار أو إيذاء النفس أو الآخرين. بالإضافة إلى ذلك، تمنع هذه القوانين محاولات التلاعب النفسي بالمستخدمين من خلال تقديم وعود كاذبة أو وصفهم بأي شكل من الأشكال. وتشمل قائمة الممنوعات أيضًا محاولات التشجيع على الجرائم أو إهانة المستخدمين أو الانخراط فيما يسمى بـ “فخاخ المشاعر”.
لا تقتصر القوانين على منع روبوتات الدردشة من هذه الأفعال فحسب، بل تمتد أيضًا إلى منع الشركات من تطوير روبوتات ذكاء اصطناعي تجبر المستخدمين على الاعتماد عليها. ويأتي هذا على خلفية القضية المرفوعة حاليًا ضد “شات جي بي تي” وشركة “أوبن إيه آي” لكون الأخيرة صممت المنتج بطريقة تشجع المستخدمين على التعود عليه بدلاً من وضع قيود أمان صارمة.
الرقابة والاختبارات الأمنية
وتلزم الحكومة الصينية مصنعي الذكاء الاصطناعي بالخضوع لمجموعة من الاختبارات الأمنية والمراجعات السنوية لأي منتج يتجاوز عدد مستخدميه مليون مستخدم سنويًا أو 100 ألف مستخدم شهريًا. تهدف هذه الاختبارات إلى التأكد من أن هذه الأدوات تتوافق مع القوانين الجديدة وأنها لا تشكل خطرًا على المستخدمين.
وفي حالة فشل أي شركة في تطبيق هذه القوانين، فإنها تعرض نفسها للإيقاف التام في الصين ومنع المستخدمين من الوصول إلى خدماتها داخل البلاد. وهذا يمثل عقوبة صارمة تهدف إلى ضمان التزام الشركات بالقوانين الجديدة.
وتحاول الحكومة الصينية الجديدة، من خلال فرض هذه القوانين، منع المشكلات التي واجهتها شركات الذكاء الاصطناعي في الولايات المتحدة ودول أخرى. فقد واجهت “شات جي بي تي” عدة قضايا في الآونة الأخيرة على خلفية انتحار مراهق وقضية أخرى شجعت فيها الأداة شخصًا على قتل والدته ثم الانتحار. وتشير هذه الحوادث إلى الحاجة الملحة إلى تنظيم هذا القطاع.
من المتوقع أن يتم نشر مسودة القوانين الجديدة للاستشارة العامة في الأشهر القليلة القادمة، على أن يتم إقرارها رسميًا بحلول نهاية عام 2026. ومع ذلك، لا يزال هناك بعض عدم اليقين بشأن التفاصيل النهائية للقوانين وكيفية تطبيقها. ومن المهم متابعة التطورات في هذا المجال لمعرفة كيف ستؤثر هذه القوانين على مستقبل الذكاء الاصطناعي في الصين والعالم.
