طالبت منظمة العفو الدولية “أمنستي إنترناشيونال” وكالة التأمين الاجتماعي السويدية بالوقف الفوري لاستخدام أنظمة الذكاء الاصطناعي “الغامضة” ضد الأجانب في نظام الرعاية الاجتماعية.

وكشف تحقيق للمنظمة، إلى جانب مؤسسات أخرى، أن النظام يضع علامات بشكل “غير عادل” على الأفراد من خلفيات أجنبية وأصحاب الدخل المنخفض والأفراد الذين ليس لديهم شهادات جامعية؛ خلال عمليات التفتيش عن حالات الاحتيال للحصول على المزايا الاجتماعية.

وأوضحت المنظمة أن محققي الاحتيال في الوكالة يتمتعون بسلطة “هائلة”، حيث يمكنهم البحث في حسابات وسائل التواصل الاجتماعي الخاصة بالشخص، والحصول على بيانات من مؤسسات مثل المدارس والبنوك، وحتى مقابلة جيران الفرد كجزء من تحقيقاتهم.

وقال ديفيد نولان، كبير الباحثين في قسم التحقيقات في منظمة العفو الدولية، إن “أنظمة الذكاء الاصطناعي التي يتم نشرها من قبل وكالات الضمان الاجتماعي يمكن أن تؤدي إلى تفاقم التفاوتات والتمييز القائمة مسبقًا”.

وأشارت “أمنستي” إلى أن الأشخاص الذين تم وضع علامة عليهم بشكل “غير صحيح” من قبل نظام الضمان الاجتماعي “المتحيز”، اشتكوا من أنهم يواجهون تأخيرات وعقبات قانونية في الوصول إلى استحقاقاتهم من الرعاية الاجتماعية.

وطالبت العفو الدولية السلطات السويدية بالالتزام بقواعد تقنية “شفافة” وحوكمة “صارمة” أثناء التعامل مع أنظمة الذكاء الاصطناعي لتحديد الوصول إلى الخدمات والفوائد الاجتماعية العامة، بموجب قانون الذكاء الاصطناعي الأوروبي المعتمد حديثًا.

وأكد نولان أن “السويد تتجه نحو فضيحة إذا استمر النظام الذي تستخدمه وكالة التأمين الاجتماعي السويدية”، مشيرا إلى أن هناك “أدلة كافية على انتهاك النظام للحق في المساواة وعدم التمييز”.

وذكرت المنظمة أنه تم استخدام نظام التعلم الآلي من قبل وكالة التأمين الاجتماعي السويدية منذ عام 2013 على الأقل، حيث يقوم النظام بتعيين درجات المخاطر، التي يتم حسابها بواسطة خوارزمية معينة، لمقدمي طلبات الضمان الاجتماعي للكشف عن الاحتيال في المزايا الاجتماعية.