تحذيرات من تفاقم التمييز في سويسرا بسبب خوارزميات الذكاء الاصطناعي

تعد الأقليات العرقية والجنسية والأجانب والأجنبيات والنساء، من بين الفئات الأكثر تضررًا من التمييز الناجم عن خوارزميات الذكاء الاصطناعي. Keystone

تؤثر الخوارزميات، بشكل متزايد في اتخاذ القرارات الحاسمة، في سويسرا، مثل التوظيف، ومنح القروض، والتأمين. وقد أظهرت دراسة حديثة نقص الضمانات القانونية في هذا المجال، بينما تعهدت الحكومة باتخاذ إجراءات لمعالجة هذا القصور.

في سويسرا، لا يحصل السكان على حماية كافية من مخاطر التمييز الناتجة عن استخدام الذكاء الاصطناعي. وفي 18 نوفمبر، أصدرت لجنتان فدراليتان، لجنة مناهضة العنصرية ولجنة قضايا المرأة، رأيًا قانونيًا، لفتتا فيه انتباه الأوساط السياسية إلى هذه القضية.

وليس من قبيل الصدفة، أن تتخذ هاتان اللجنتان، إجراءات لمواجهة تقصير الحكومة، في حماية السكان رجال ونساءً، من مخاطر الذكاء الاصطناعي. ويُعدّ الأجانب والأجنبيات والأقليات العرقية، والجنسانية، والنساء، من بين الفئات الأكثر تضررًا.

و تشير دراسة دوليةرابط خارجي  إلى تعزيز الذكاء الاصطناعي التمييز في مجالات حساسة مثل التوظيف، والحصول على القروض، والتأمين. ففي مجال التوظيف، على سبيل المثال، تظهر الخوارزميات تفضيلًا للرجال في 85% من الحالات، بينما لا يُختار النساء إلا في 11% منها. كما تُظهر أيضا تعرّض الرجال ذوي البشرة الملونة، للاستبعاد بشكل منهجي.

وفي مؤتمر وطني عُقد في برن، قالت أورسولا شنايدر شوتل، رئيسة اللجنة الفدرالية لمناهضة العنصرية: “يُرسّخ الذكاء الاصطناعي التمييزين العنصري، والجنساني،  ويُعمّقهما”. وأشارت إلى أن استخدام بعض شركات تأمين السيارات في سويسرا نماذج قائمة على الذكاء الاصطناعي، لحساب أقساط التأمين. وأوضحت: “يدفع الشبان والشابات الذين لا يحملون أسماءً سويسريةً شائعة، أقساطًا أعلى”. وقد سبق أن نشرت وسائل الإعلام السويسرية تقارير، عن حالات مماثلة (يتداول على نطاق واسع ارتفاع أقساط تأمين السيارات بالنسبة لأصيلي وأصيلات كوسوفو من تلك المسندة إلى السويسريين.ات المحليين.ات).

وبالمقارنة مع المواطنين والمواطنات في الدول الأخرى، يُعتبر الشعب السويسري أكثر تعرضًا للخطر. فعلى سبيل المثال، في عام 2024، أقرّ الاتحاد الأوروبي تشريعًا خاصًا يُلزم مقدمي.ات أنظمة الذكاء الاصطناعي عالية المخاطر بضمان الشفافية، وتقليل التمييز والتحيز بشكل فعّال.

ولهذه الأسباب، يعتقد ممثلو كلتا اللجنتين وممثلاتها، أن على سويسرا التحرك بسرعة لمعالجة التمييز الناجم عن استخدام الخوارزميات.

ثغرات القانون السويسري

ترى ناديا براون بيندر، أستاذة القانون العام بجامعة بازل، أنّ ثمة ثغرات في التشريعات السويسرية، الخاصة بمعالجة مخاطر التمييز، المتعلقة بالذكاء الاصطناعي. وأوضحت لسويس إنفو (SWI Swissinfo.ch): “لا يوجد فراغ قانوني. لكن لا تزال الحماية مجزأة”.

وبوسع الخوارزميات التحايل على الدستور الفدرالي، رغم حظره التمييز على أساس الجنس، أو الأصل، أو اللغة. وذلك من خلال استغلال بيانات تبدو محايدة، مثل ما يسمى “البروكسي”، متضمِّن الرمز البريدي أو الاسم، ولكنه في الواقع يعكس الأصل، أو الوضع الاجتماعي.

وترى براون بيندر، أنّ القوانين الحالية تجعل من كشف التمييز على أساس كل حالة على حدة، شبه مستحيل. وتؤكد قائلةً: “لا يمكننا الحديث عن ظاهرة ممنهجة، إلا عندما يتأثر بها عدد كبير من الأشخاص”.

وتعتقد الخبيرة القانونية وجود حاجة إلى اتخاذ إجراءات لمعالجة هذه الثغرات. وحسب رأيها، قد يؤدي الذكاء الاصطناعي، إلى إعادة التمييز المجتمعي المنتشر أصلا على نطاق واسع، وتضخيمه عما يُهدد التقدم الاجتماعي. وتُحذر قائلةً: “ليس الذكاء الاصطناعي محركًا للتقدم. فهو يتخذ قرارات متحفظة بناءً على البيانات التاريخية المبرمَج وفقها”.

ولهذا السبب، ومن خلال الرأي القانوني المعدّ للجنتين، حثّت ناديا براون بيندر وزميلها فلورن توفينين، من جامعة زيورخ، الطبقة السياسية على العمل على سن قانون عام لمكافحة التمييز. ويُطبّق هذا القانون على مختلف القطاعات، العامة والخاصة. وصرحت الخبيرة القانونية قائلة: “يُتيح الذكاء الاصطناعي أيضًا فرصةً لكشف التمييز في مجتمعنا، ومعالجته”.

الحكومة تقول إنها “مضطرة للتحرك”

وفي مقابلة مع سويس إنفو، أكدت وزيرة الداخلية، إليزابيت بوم – شنايدر أخذها توصيات الخبير والخبيرة القانونيين على محمل الجد. وقالت: “لقد أدركنا تمامًا ضرورة تحديد دور الخوارزميات في عملية اتخاذ القرارات المؤثرة في السكان، بشكل أكثر شفافية”.

ووفقًا للوزيرة، يُهدد الذكاء الاصطناعي، الذي أصبح منتشرًا في كل مكان، بتسريع التمييز وتعميمه، لا سيما ضد الفئات المستضعفة، أو الفقيرة، أو المهمشة أصلًا. لذلك، تُشدد إليزابيت بوم – شنايدر، على أهمية ضمان الشفافية في اتخاذ جميع القرارات، الطبية، والاجتماعية، والتعليمية، والمالية، المُتخذة بمساعدة الذكاء الاصطناعي.

وبالتصديقرابط خارجي على اتفاقية مجلس أوروبا بشأن الذكاء الاصطناعي، اختارت الكنفدرالية اتخاذ خطوة أولى في هذا الاتجاه. وتهدف هذه المعاهدة الدولية، إلى ضمان احترام استخدام تقنيات الذكاء الاصطناعي للحقوق الأساسية، ولا سيما مبدأ عدم التمييز.

وعلى سويسرا، في اعتقاد إليزابيت بوم – شنايدر، الالتزام بتنفيذ اتفاقية مجلس أوروبا. ويُعدّ هذا التوقيع، في رأي الخبيرة القانونية ناديا براون بيندر، علامةً مُشجعةً. إذ يحثّ البلاد على اتخاذ تدابير أكثر فعاليةً، لمكافحة التمييز المرتبط بالذكاء الاصطناعي.

وأكدت الوزيرة الفدرالية لسويس إنفو عمل الحكومة الفدرالية في برن بالفعل على مواءمة تشريعاتها مع الاتفاقية، ووضع إطار قانوني لمعالجة أوجه القصور الحالية. وسيتعين عليها، ثم  على البرلمان، اتخاذ قرار بشأن إدخال أي تعديلات تشريعية لاحقًا.

وتُقرّ إليزابيت بوم – شنايدر، بإلزام الرأي القانوني لناديا براون بيندر، وفلورن توفينين الحكومة بالتحرك، مُؤكّدةً أهميةَ المسألة السياسية المُلِحّة. وتُوضّح قائلةً: “لا يتعلق الأمر بتشويه سمعة الخوارزميات، بل بالاعتراف بأنّ القرارات الغامضة، التي يتخذها الذكاء الاصطناعي، من شأنها أن تُؤدّي إلى تداعيات سياسية، وقانونية، واقتصادية”.

تحرير: مارك لوتنيغير

ترجمة: مصطفى قنفودي

مراجعة: عبد الحفيظ العبدلي

التدقيق اللغوي: لمياء الواد