دلعدة سنوات، كان الذكاء الاصطناعي (AI) يدخل حياتنا خلسة. ويحلل تفاعلاتنا اليومية. إنه يحول خياراتنا الاستهلاكية. وهي تتدخل الآن في الطريقة التي تدير بها الدولة خدماتنا العامة. ولكن خلف زخارف الحداثة وتحت ذريعة الكفاءة، ينتشر تهديد غير مرئي تتزايد آثاره: استخدام الخوارزميات لتعميم المراقبة الجماعية.
وكما هو الحال غالبا، فإن الهجمات على الحقوق الأساسية تقع أولا على عاتق الفئات الأكثر ضعفا. لأن الفقراء بالطبع هم من يستحقون المراقبة أكثر من غيرهم. لا يهم أن الاحتيال في الإعانات الاجتماعية أقل بثلاثين مرة من الاحتيال في مساهمات الضمان الاجتماعي والاحتيال الضريبي …
وهكذا، باسم “مكافحة الاحتيال”، يتم تنفيذ هذا التصنيف الخوارزمي للأشخاص في قطاع الحماية الاجتماعية. ومن غير المستغرب أن يتبين أنها سلاح هائل يعزز عدم المساواة ضد الأشخاص الأكثر ضعفا في مجتمعنا.
التنميط العنصري
ولهذا السبب، في 15 أكتوبر/تشرين الأول، قامت منظمة العفو الدولية، إلى جانب تحالف مكون من 14 منظمة بقيادة منظمة La Quadrature du Net، بتقديم شكوى تاريخية أمام مجلس الدولة. ويطالبون بالوقف الفوري لخوارزمية تصنيف المخاطر التي يستخدمها الصندوق الوطني لبدلات الأسرة، وهو نظام يعمل منذ عام 2010 لتتبع المدفوعات الزائدة في المزايا الاجتماعية.
منذ عام 2010، خصصت هذه الخوارزمية درجة المخاطر لكل مستفيد، لتحديد من يستحق الخضوع لمزيد من التدقيق. هذا النظام ليس محايدا. إنهم ليسوا كذلك أبدًا. وهو يستند إلى معايير تمييزية تحول – افتراضياً – الأشخاص الذين يعيشون في الأحياء المحرومة، والعاطلين عن العمل، والأشخاص ذوي الإعاقة، فضلاً عن الأسر ذات الوالد الوحيد، مثل العديد من المشتبه بهم.
تقوم آلية المراقبة الجماعية هذه بالوصم بشكل منهجي من خلال معاملة بعض الجماهير على وجه التحديد على أنهم محتالون محتملون. في عام 2023، كشفت La Quadrature du Net، بفضل الوصول إلى الكود المصدري لهذه الخوارزمية، عن الارتباطات المباشرة بين معايير التصنيف والعوامل الاجتماعية والاقتصادية التمييزية. كلما ارتفعت درجة المخاطرة، زادت شدة السيطرة. وبالتالي فإن الفئات الأكثر هشاشة في المجتمع ــ تلك التي من المفترض أن يحميها الضمان الاجتماعي ــ تصبح أهدافاً مميزة لنظام محدد مهين للإنسانية.
لديك 57.39% من هذه المقالة متبقية للقراءة. والباقي محجوز للمشتركين.
