قالت منظمة العفو الدولية إن أنظمة “تصنيف المخاطر” التي تستخدمها السلطات في إنفاذ القانون والضمان الاجتماعي والهجرة “تتعارض مع القانون الدولي لحقوق الإنسان ويجب حظرها”. 

وقالت إن تلك الأدوات، التي تستخدمها السلطات في إنفاذ القانون والضمان الاجتماعي والهجرة، تحول فئات مهمشة بأكملها إلى “مشتبه فيهم دائمين” دون ارتكاب جريمة، وتنسف قرينة البراءة ومبادئ المحاكمة العادلة.

وأوضحت، في “تقرير جديد هو الأول من نوعه في تقييم هذه الأنظمة وفق معايير حقوق الإنسان”، أن هذه الأدوات تعتمد بشكل متزايد على تقنيات الذكاء الاصطناعي، وتبنى على بيانات متحيزة تعكس أنماط تمييز راسخة، مما يؤدي إلى انتهاكات جسيمة لحقوق الفئات المعرضة للعنصرية، والمسلمين، والمهاجرين، والأشخاص ذوي الإعاقة أو الدخل المتدني.

وبحسب التقرير، استُخدمت هذه الأنظمة في قضايا الضمان الاجتماعي والهجرة ومكافحة “الاحتيال” في دول مثل الدنمارك وفرنسا وهولندا وأستراليا، وتبرر الحكومات استخدامها بكونها أدوات لترشيد الخدمات ومنع الجريمة، لكن العفو الدولية ترى أنها تحوّل قضايا الفقر والعدالة الاجتماعية إلى مسألة تقنية تُدار عبر المراقبة، وتفضي إلى أضرار خطيرة مثل الوصم، والحرمان التعسفي من المساعدات أو السكن، أو الترحيل والسجن.

وأكد التقرير أن انعدام الشفافية حول هذه الأنظمة يجعل الأفراد “عاجزين” عن الطعن في قراراتها، ويهدد حقوقا أساسية أخرى، منها الحق في الخصوصية وحماية البيانات، والضمان الاجتماعي، ومستوى المعيشة الملائم. كما شكك في الفاعلية المزعومة لـ”التنبؤ بالمشبوهين”، معتبرا أن غياب بيانات دقيقة ومنهجيات علمية صلبة يدفع إلى الاعتماد على مؤشرات بديلة وغير موثوقة تزيد انحياز النظام.

واختتمت منظمة العفو بالتشديد على أنه “من المستحيل تصميم خوارزمية محايدة لتصنيف المخاطر”، ودعت إلى حظر هذه الأنظمة في مجالات الهجرة وضبط الجريمة والضمان الاجتماعي، وإلى وقف استخدامها وتطويرها وبيعها، وسن تشريعات ملزمة بذلك.