“فقاعات التصفية” وعنصريّة خوارزميّات مواقع التواصل الاجتماعيّ

سلّطت دراسة جديدة الضوء على انتشار العنصريّة في خوارزميّات وسائل التواصل الاجتماعيّ، حيث حلّلت دقّة خوارزميّات الكشف عن الكلام الّذي يحضّ على الكراهية على تويتر، ووجدت أنّ هذه الخوارزميّات كانت أقلّ دقّة عند اكتشاف خطاب الكراهيّة الموجّه نحو النساء والملوّنين

بعد استحواذ الملياردير الأميركيّ إيلون ماسك على منصّة “تويتر”، تزايدت الانتقادات التي تدّعي بتزايد محتوى الكراهية على المنصّة، وكذلك لم تخلُ المنصّات الأخرى من هكذا اتّهامات، والتي فتحت الحديث حول ما يسمّى بـ”عنصريّة الخوارزميّات” واستغلال المنصّة لها، من أجل ترويج قضايا تتّفق مع سياساتها، وتحييد قضايا أخرى.

وأحدث الاستخدام الواسع لمنصّات التواصل الاجتماعيّ ثورة في طريقة تفاعل الناس مع بعضهم البعض، حيث مكّنت وسائل التواصل الاجتماعيّ الأشخاص من التواصل مع الآخرين من جميع أنحاء العالم، والمشاركة في مناقشات ومشاركة الأفكار والبقاء على اطّلاع دائم بالأخبار والمعلومات، ومع ذلك، فقد تعرّضت وسائل التواصل الاجتماعيّ أيضًا لانتقادات لكونها أرضًا خصبة للعنصريّة وخطاب الكراهية، حيث تلعب خوارزميّات وسائل التواصل الاجتماعيّ دورًا مهمًّا في إدامة وتضخيم المحتوى العنصريّ.

ويعدّ انتشار العنصريّة في خوارزميّات وسائل التواصل الاجتماعيّ قضيّة خطيرة تتطلّب اهتمامًا وعملًا من شركات التواصل الاجتماعيّ، بحسب باحثين، فالخوارزميّات الّتي تقدّم توصيات المحتوى على منصّات وسائل التواصل الاجتماعيّ ليست محايدة، وتعكس تحيّزات منشئيّها وقيمهم.

وبحسب خبراء، فإنّ برمجة خوارزميّات الوسائط الاجتماعيّة تمّت برمجتها لتزويد المستخدمين بمحتوى مخصّص بناء على سلوكهم عبر الإنترنت، بما في ذلك الإعجابات والتعليقات وسجّل البحث، ويهدف هذا المحتوى المخصّص إلى الحفاظ على تفاعل المستخدمين مع النظام الأساسيّ، وزيادة الوقت الّذي يقضيه على النظام الأساسيّ وتحقيق إيرادات في نهاية المطاف لشركة الوسائط الاجتماعيّة، ومع ذلك، فقد وجد أنّ الخوارزميّات الّتي تقود هذه التوصيات متحيّزة وتمييزيّة تجاه مجموعات معيّنة من الناس، ممّا يديم المحتوى العنصريّ والضارّ.

وإحدى الدراسات الّتي تسلّط الضوء على انتشار العنصريّة في خوارزميّات وسائل التواصل الاجتماعيّ هي “التمييز من خلال التحسين: كيف يمكن أن يؤدّي تسليم إعلانات فيسبوك إلى نتائج منحرفة” والتي أجرتها كيثين تيونر، حيث حلّلت الدراسة عمليّة تسليم الإعلانات على موقع فيسبوك، ووجدت أنّ خوارزميّات النظام الأساسيّ أظهرت بشكل غير متناسب إعلانات لفرص العمل والسكن للمستخدمين البيض، بينما عرض على المستخدمين السود واللاتينيّين، إعلانات لخدمات إصلاح الائتمان وسندات الكفالة، ووجدت الدراسة أيضًا أنّ المعلنين الّذين يستخدمون نظام عرض الإعلانات على فيسبوك يمكنهم استهداف الإعلانات على أساس العرق والجنس وعوامل تمييز أخرى، ممّا يديم العنصريّة المنهجيّة.

وفي دراسة أخرى سلّطت الضوء على انتشار العنصريّة في خوارزميّات وسائل التواصل الاجتماعيّ، والتي جاءت بعنوان “التعرّض لأخبار وآراء متنوّعة أيديولوجيًّا على فيسبوك”، حلّلت خوارزميّة موجز الأخبار على موقع فيسبوك، ووجدت أنّ خوارزميّة النظام الأساسيّ تروّج للمحتوى الّذي يتوافق مع معتقدات المستخدمين وقيمهم الحاليّة، ممّا يؤدّي إلى تأثير “فقّاعة التصفية” الّذي يعزّز التحيّزات الموجودة، ويمنع التعرّض لوجهات نظر متنوّعة، كما وجدت الدراسة أيضًا أنّ تأثير فقّاعة التصفية هذا يؤثّر بشكل غير متناسب على المستخدمين الّذين يعتبرون محافظين، ممّا يؤدّي إلى عدم التعرّض لمحتوى متنوّع أيديولوجيّ.

وسلّطت دراسة جديدة الضوء على انتشار العنصريّة في خوارزميّات وسائل التواصل الاجتماعيّ، حيث حلّلت دقّة خوارزميّات الكشف عن الكلام الّذي يحضّ على الكراهية على تويتر، ووجدت أنّ هذه الخوارزميّات كانت أقلّ دقّة عند اكتشاف خطاب الكراهيّة الموجّه نحو النساء والملوّنين، وخلصت إلى أنّ هذه الخوارزميّات غالبًا ما تصنّف التغريدات غير البغيضة على أنّها كلام يحضّ على الكراهية، ممّا أدّى إلى نقص في الفهم الدقيق للسياق واللغة المستخدمة في خطاب الكراهيّة عبر الإنترنت.

وبحسب القائمين عليها، فإنّ هذه الدراسات توضّح طبيعة انتشار العنصريّة في خوارزميّات وسائل التواصل الاجتماعيّ وعدم حياديّتها، حيث غالبًا ما تكون هذه التحيّزات والقيم غير مرئيّة ومخفيّة خلف خوارزميّات معقّدة يصعب فهمها أو تحليلها.

ويطالب خبراء شركات التواصل الاجتماعيّ زيادة الاستثمار في ممارسات أكثر تنوّعًا وشموليّة، من أجل ضمان أنّ الفرق المسؤولة عن إنشاء الخوارزميّات وصيانتها تمثّل المجموعات السكّانيّة المتنوّعة الّتي تستخدم منصّاتها، من خلال تضمين مجموعة واسعة من وجهات النظر والخبرات في عمليّات صنع القرار الخوارزميّة.