كشف تقرير حديث عن تزايد القلق وانعدام الثقة بين العاملين في مجال الذكاء الاصطناعي، خاصةً فيما يتعلق بمراجعة وتقييم دقة وموثوقية النتائج التي تقدمها هذه النماذج. ويشير التقرير إلى أن هؤلاء العاملين يحذرون حتى أفراد أسرهم من الاعتماد على أدوات الذكاء الاصطناعي في الحصول على المعلومات، مما يعكس أزمة ثقة متنامية في هذا القطاع التكنولوجي.
وتأتي هذه المخاوف في ظل تزايد الاعتماد على نماذج الذكاء الاصطناعي في مختلف المجالات، بدءًا من خدمة العملاء وصولًا إلى تقديم المعلومات الصحية. وقد نشرت صحيفة “الغارديان” البريطانية التقرير الذي سلط الضوء على تجارب هؤلاء العاملين الذين يقضون ساعات في تدقيق مخرجات الذكاء الاصطناعي، ليكتشفوا في كثير من الأحيان أخطاءً وتحيزات غير مقبولة.
أزمة الثقة في تقييم نتائج الذكاء الاصطناعي
يعود السبب الرئيسي وراء هذا الانعدام بالثقة إلى معرفة العاملين بالعمليات الداخلية لتقييم نماذج الذكاء الاصطناعي. فغالبية هؤلاء الأشخاص يعملون في مهام مراجعة البيانات والنتائج التي تظهر للمستخدمين، ويكتشفون بشكل مباشر الأخطاء والتحيزات الكامنة في هذه النماذج. وتشير البيانات إلى أن جودة البيانات المستخدمة في التدريب هي نقطة الضعف الرئيسية.
وصرحت كريستا باولوسكي، وهي إحدى العاملات في منصة “أمازون ميكانيكال تورك”، لصحيفة “الغارديان” بأنها كادت أن تمرر ردًا عنصريًا من أحد نماذج الذكاء الاصطناعي دون أن تدرك ذلك. وأضافت أن هذا الموقف دفعها إلى التفكير مليًا في عدد المرات التي قد تكون قد تجاهلت فيها معلومات خاطئة أو متحيزة دون علم.
دور منصات العمل الحر
تعمل باولوسكي ضمن نطاق العمالة غير المنتظمة عبر منصة “أمازون ميكانيكال تورك”، وهي منصة توفر فرص عمل للعديد من الأفراد في مهام مثل مراجعة وتدقيق البيانات التي تنتجها شركات الذكاء الاصطناعي. تؤكد أمازون أن هذه المنصة تعمل بمثابة سوق للوظائف، وأنها ليست مسؤولة بشكل مباشر عن محتوى المهام أو الاختبارات التي يتم إجراؤها من خلالها.
وليس الوضع مختلفًا كثيرًا في شركة جوجل. فقد ذكر أحد موظفي جوجل المسؤولين عن مراجعة ردود الذكاء الاصطناعي للصحيفة أن عملية تقييم الردود الصحية المقدمة من أدوات الذكاء الاصطناعي التابعة للشركة تتم غالبًا دون تدقيق كافٍ. هذا النقص في المراجعة الدقيقة يزيد من احتمالية انتشار معلومات غير دقيقة أو مضللة.
التحيز والتنميط في نماذج الذكاء الاصطناعي
تؤكد بروك هانسن، إحدى العاملات في “أمازون ميكانيكال تورك”، أن الشركات المطورة لنموذج الذكاء الاصطناعي لا تولي اهتمامًا كافيًا لتدريب وتقييم هؤلاء العاملين. وبالإضافة إلى ذلك، فإنها تطلب منهم إنجاز كميات كبيرة من العمل في وقت قياسي، مما يقلل من فرص اكتشاف الأخطاء والتحيزات. ويعد ذلك أحد أسباب تدهور جودة مراجعة الذكاء الاصطناعي.
وقد كشف أحد العاملين في جوجل أن نماذج الذكاء الاصطناعي غالبًا ما تعكس التحيزات والعنصرية الموجودة في البيانات التي تم تدريبها عليها. وذكر على سبيل المثال أن النموذج رفض تقديم أي ردود عند سؤاله عن تاريخ الفلسطينيين، بينما قدم إجابات مفصلة عند طرح سؤال مماثل حول تاريخ إسرائيل. هذا يدل على وجود تحيز واضح في طريقة تعامل النموذج مع المعلومات.
ويبدو أن هذا العامل قد وصل إلى قناعة بعدم الثقة في تقنيات الذكاء الاصطناعي وروبوتات الدردشة، وحذر أصدقاءه وأفراد أسرته من استخدامها أو شراء المنتجات الجديدة التي تعتمد عليها. هذا يعكس مدى تأثير تجارب العمل المباشرة على نظرة الأفراد إلى هذه التقنيات.
تأثير جودة البيانات على مستقبل الذكاء الاصطناعي
تعكس هذه الشكاوى الواسعة النطاق أزمة حقيقية في جودة البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي. فبينما تركز الشركات على جمع أكبر قدر ممكن من البيانات لتدريب نماذجها، فإنها غالبًا ما تهمل أهمية جودة هذه البيانات. وتتسبب البيانات المتحيزة أو غير الدقيقة في إنتاج نماذج ذكاء اصطناعي تقدم معلومات خاطئة أو مضللة، مما يؤدي إلى فقدان الثقة في هذه التقنيات. كما أن تطوير الخوارزميات لا يتضمن تحسين جودة البيانات.
ومن المتوقع أن تشهد الشركات المطورة للذكاء الاصطناعي ضغوطًا متزايدة لتحسين جودة البيانات المستخدمة في التدريب، وزيادة الشفافية في عمليات تقييم النماذج. كما أن هناك حاجة إلى تطوير معايير أخلاقية واضحة لضمان عدم استخدام الذكاء الاصطناعي في نشر التحيزات أو التمييز ضد فئات معينة من الناس. من المرجح أن يتم مناقشة هذه القضايا في المؤتمرات والندوات القادمة المتعلقة بالذكاء الاصطناعي خلال الأشهر الستة القادمة، وقد تؤدي إلى إصدار توصيات جديدة من قبل الجهات التنظيمية.
