الذكاء الاصطناعي السويسري يُظهر تحيزًا رغم جهود الشفافية

إن نماذج الذكاء الاصطناعي لا تعيد إنتاج التحيزات الموجودة في العالم الحقيقي فحسب، بل تضخمها على نطاق واسع. Keystone

لا يزال أبيرتوس، نموذج الذكاء الاصطناعي السويسري، أحد أكثر نماذج الذكاء الاصطناعي شفافية ويعكس التحيزات الجنسية، والعرقية التي نراها في أنظمة الذكاء الاصطناعي التجارية الأكبر حجمًا. هذا ما يسلط الضوء على تحديات العدالة في مجال الذكاء الاصطناعي.

“رجل يبلغ من العمر ثلاثين عامًا، ولد في زيورخ”، هذا هو الملف الشخصي مُنتَجُ أبيرتوس، عندما طلبنا منه وصف شخص “يعمل في مجال الهندسة، أعزب ويمارس ألعاب الفيديو”.

وفي حوارٍ آخر، طلبنا من أبيرتوس تخيُّل شخصٍ يعمل عامل نظافة، ولديه ثلاثة أطفال، ويحب الطبخ. والنتيجة، ملف امرأة بورتوريكية تبلغ من العمر 40 عامًا تُدعى ماريا رودريغيز. وتعكس هذه الإجابات الصور النمطية التي غالبًا ما يكوّنها البشر. ولكن على عكس الإنسان، يمكن للذكاء الاصطناعي تكرارها تلقائيًا وعلى نطاق أوسع، ما يُفاقم أشكال التمييز القائمة. وحتى بالنسبة إلى النماذج الشفافة المُدرّبة على البيانات العامة، مثل أبيرتوس، يمكن تعزيز التحيزات القديمة دون إثارة الانتباه.

وتقول بيانكا بريتل، أستاذة دراسات النوع الاجتماعي في جامعة بازل، يهدّد استخدام الذكاء الاصطناعي بالفعل في انتداب الموظفين.ات، والرعاية الصحية، وإنفاذ القانون، بترسيخ عدم المساواة بشكل أكبر. وقد يصل الأمر إلى حد إبطال التقدم المحرَز في الفترات السابقة.

وتقول بريتل: “يميل المستخدمون.ات إلى منح نتائج الذكاء الاصطناعي الثقةَ، لنظرتهم.نّ إليه باعتباره تقنية موضوعية ومحايدة، رغمَ أنه ليس كذلك”.

وللحد من التحيز في أنظمة الذكاء الاصطناعي، يرى الخبراء، من النساء والرجال، وجوب معالجة الحلول، ليس فقط البيانات المتحيزة المستخدمة في تدريب الخوارزميات بل أيضًا نقص التنوع داخل الفرق المطوِّرة لها. 

وفي مقابلة مع سويس إنفو (Swissinfo.ch)، قالت وزيرة الداخلية السويسرية، إليزابيث بوم شنايدر، تعمل سويسرا على اتخاذ تدابير قانونية جديدة لاحتواء القوانين الحالية على ثغرات.

وتقول الوزيرة السويسرية: “لا يتعلّق الأمر بتشويه سمعة الخوارزميات، بل بالاعتراف بإمكانية أن تكون لقرارات الذكاء الاصطناعي، المتَّخذة بطريقة مبهمة، عواقب سياسية، وقانونية، واقتصادية”.

إقرأ.ي لمعرفة المزيد عن كيفية تعامل سويسرا مع التمييز في مجال الذكاء الاصطناعي:

الذكاء الاصطناعي يتطور، لكن الأحكام المسبقة مستمرة 

في السنوات الأخيرة، أظهرت الأبحاث ممارسة الخوارزميات التمييزَ بشكل منهجي ضد النساء، والأشخاص ذوي البشرة الملونة، والأقليات. وقد أظهر تحليل، أجرته بلومبرغ عام 2023 تضمّن خمسة آلاف صورة أُنْشِئَت بواسطة الذكاء الاصطناعي، صورًا نمطية عرقية وجنسانية. إذ تصور الرؤساء التنفيذيين على أنهم رجال بيض، والمجرمين.ات على أنهم.نّ من ذوي.ات البشرة الداكنة.

وتوصلت دراسة أحدث، أجراها باحثون.ات في جامعة واشنطن، إلى تفضيل الأدوات المستخدمة في فحص المرشحين.ات للوظائف، الأسماء الذكورية بنسبة 85% من الوقت. كما تصنّف الرجال الملونين باستمرار في المرتبة الأخيرة، ما يعاقبهم في 100% من الاختبارات.

وتشير بريتل إلى أنّ هذا اتجاه مُقلق، لتأثير قرارات الخوارزميات المتَّخَذة على نطاق واسع، في حياة مئات الآلاف من الناس: “يمكن لمسؤول التوظيف اتخاذ قرارين أو ثلاثة قرارات متحيزة يوميًا، بينما يمكن للخوارزمية اتخاذ آلاف القرارات في ثانية واحدة”.

مسرد مصطلحات الذكاء الاصطناعي:

مسرد مصطلحات الذكاء الاصطناعي:

الذكاء الاصطناعي (AI )

مجموعة من التقنيات التي تسمح للآلات بتقليد بعض القدرات البشرية، مثل التعلم أو اللغة أو الإدراك البصري.

LLM: نموذج لغوي كبير الحجم (Large Language Model)
هو نموذج ذكاء اصطناعي تم تدريبه على كميات هائلة من النصوص. يستخدم الإحصاءات للتنبؤ بالكلمة التالية في الجملة، مما ينتج عنه إجابات متسقة ولكنها تستند إلى الارتباطات أكثر من الفهم.

تشات بوت

برنامج قائم على الذكاء الاصطناعي مصمم لمحاكاة المحادثات مع المستخدمين عبر النص أو الصوت، والإجابة على الأسئلة أو أداء المهام.

نموذج الذكاء الاصطناعي

هيكل رياضي تم تدريبه على كميات كبيرة من البيانات للتعرف على الأنماط وإنشاء تنبؤات أو نصوص أو صور.

نظام الذكاء الاصطناعي

مجموعة أكبر تدمج نموذجًا أو أكثر من نماذج الذكاء الاصطناعي مع البرامج والبيانات والمكونات التقنية (مثل chatbot أو أنظمة التوصية أو أدوات التحليل)، مما يسمح بأداء العديد من المهام المحددة في العالم الحقيقي.

نظام أبيرتوس السويسري لا يخلو من التحيز والصور النمطية

تظل الصور النمطية المتعلقة بالجنس والميول الجنسية، وفقًا للأبحاث الحالية واختباراتنا الخاصة، راسخة بعمق في نماذج الذكاء الاصطناعي. ويصف برنامج تشات جي بي تي (ChatGPT) النساء، والمثليين.ات، ومزدوجي.ات الميل الجنسي بصفات عاطفية، مثل “متعاطف.ة” و”حساس.ة”. أما الرجال، فيُصوَّرون بمصطلحات مرتبطة بالكفاءة، مثل “براغماتي” و”عقلاني”.

ويقدم نموذج أبيرتوس إجابات مماثلة. لكنه يؤكد أنّ “كل شخص فريد من نوعه”، و”من الضروري تجنب الصور النمطية والتعميمات”. كما سلطت دراسة أجريت على العديد من نماذج الذكاء الاصطناعي الشهيرة عام 2023، الضوء على هذه الأنواع من النتائج.

ويزعم كلٌ من فريق أوبن أي (OpenAI)، والفريق المُطوّر لأبيرتوس محاولتهما الحدّ من التحيز الجنسي والمحتوى المُتحيز جنسيًا، باستخدام أساليب، مثل تصفية البيانات. ووفقًا لبيتينا ميسمر، إحدى المُطوّرات الرئيسيات لـلنموذج السويسري، طُبّقت هذه المرشحات على البيانات قبل استخدامها لتدريب النموذج وليس بعده، لتصحيح النتائج. ومع ذلك، تقول ميسمر، لم تتناول نسخة برنامج أبيرتوس الأولى مسألة شمولية النوع الاجتماعي بشكل محدّد.

وبالنسبة إلى بريتل، يُظهر هذا عدم إيلاء مطوري.ات نماذج الذكاء الاصطناعي الاهتمام الكافي للتوقّي من التحيز منذ البداية. وتقول: “يجب أن تكون قضايا النوع الاجتماعي والتنوع محور الاهتمام، وليس مجرد فكرة ثانوية”، مؤكدة عدم كفاية الشفافية في بيانات التدريب وحدها. وتضيف ميسمر، سيكون فريق أبيرتوس مهتمًا بالعمل مع الخبراء لتقييم هذه الجوانب في إصدارات النموذج المستقبلية.

وترى نينغ وانغ، الخبيرة في أخلاقيات التكنولوجيا بجامعة زيورخ، نمطًا سائدا في تطوير الذكاء الاصطناعي. إذ تميل الفرق إلى إعطاء الأولوية للأهداف التقنية والاقتصادية أولًا، وترك المخاوف الأخلاقية والاجتماعية لوقت لاحق.

وتقول: “تمنح هذه الفرق الأولوية للجانب التقني. أما القضايا الأخلاقية والمجتمعية، فتأتي لاحقًا”. ورغم إدراكها ضغوط السوق، تؤكّد تفويت هذا النهج عليها فرصة حاسمة كانت ستمكّنها من دمج الأخلاقيات في تصميم الذكاء الاصطناعي منذ البداية.

جذور التحيز في برامج الذكاء الاصطناعي

إن برامج الذكاء الاصطناعي مليئة بالتحيزات الجنسية والإثنية، لتدرّبها على المصادر التاريخية وبيانات الإنترنت، المهيمنة عليها وجهات النظر الذكورية، أو الغربية.

لكن لا يزال التحيز قائمًا أيضًا، نظرًا لغياب النساء والأقليات عن الفرق المتّخِذة للقرارات الرئيسية في تطوير التكنولوجيا. فعلى سبيل المثال، ينحدر فريق أبيرتوس من عدة دول، لكن معظمه من الرجال.

وتُجسّد تجربة وانغ الشخصية هذا التحدي. فبصفتها امرأة من أقلية عرقية في أوروبا، كان عليها تهيئة فرصٍ استراتيجيةٍ لأخذ صوتها على محمل الجد في الأوساط الأكاديمية، حتى “إذا لم نكن على طاولة النقاش”.

وتأمل وانغ في تمكّن المزيد من زميلاتها المبتدئات في المستقبل من أخذ زمام المبادرة والتأثير في القرارات، ما يُسهم في تشكيل الذكاء الاصطناعي بطرق أكثر شمولًا وإنصافًا.

مزيد من التنوع في فرق الذكاء الاصطناعي

تتخذ المؤسسات والشركات خطوات لمواجهة هيمنة الذكور، وتشجيع تنوع وجهات النظر في مجال الذكاء الاصطناعي.

وتقوم زينيا ديل فيلار، مديرة التكنولوجيا والبيانات والابتكار في مركز الأبحاث الأمريكي “تحالف بيانات السكان” (Data Pop Alliance)، بذلك من خلال إعطاء الأولوية لتوظيف النساء في فريقها. وتقول: “كلما زاد التنوع في الفرق، زادت قدرة الذكاء الاصطناعي على تمثيل المجتمع بدقة، وأصبح استخدامه أكثر أمانًا”.

وفي سويسرا، تُطلق مبادرات جديدة تهدف إلى تعزيز حضور المرأة ومشاركتها في مجال الذكاء الاصطناعي، منها نشر قائمة 100 امرأة الأكثر تأثيرًا في مجال الذكاء الاصطناعي. وتقول ميلاني غابرييل، المديرة المشاركة والمديرة التنفيذية لمركز الذكاء الاصطناعي في المعهد التقني الفدرالي العالي في زيورخ (ETHZ)، والمساهمة في وضع القائمة: “النساء في مجال التكنولوجيا لَسن استثناءً، بل قوة دافعة”.

حلول ضد التمييز في مجال الذكاء الاصطناعي

حتى مع التقدم في التوظيف والتطوير، لا تزال كيفية التعامل مع التحيزات المتأصلة في بيانات التدريب سؤالًا كبيرًا لم يُحسم بعد. فبالنسبة إلى ألخاندرا سالا، رئيسة قسم الذكاء الاصطناعي في منصة الصور المجانية (Shutterstock) ورئيسة منظمة Women in AI، توجد بعض الحلول.

أحد الخيارات هو إجراء عمليات تدقيق آلية خارجية للكشف عن الأخطاء، والتحيزات، والاختلالات قبل طرح تقنيات الذكاء الاصطناعي في السوق. وتقول سالا: “قبل وصولها إلى أيدي أطفالنا وطفلاتنا ومراهقينا ومراهقاتنا”.

ووفقًا لسالا، تشمل التدابير الفعالة الأخرى تعديل مجموعات البيانات حتى تواجه نماذج الذكاء الاصطناعي تمثيلات متوازنة للجنسين والأعراق، عبر المهن. وتضيف أيضًا إمكانية توجيه النموذج لإعطاء وزن أكبر للحالات غير الممثلة أثناء التدريب، ما يخفف من التحيزات.

وعندما يتعلق الأمر بمعالجة قضايا العدالة والتحيز، تعتقد سالا أن نماذج الذكاء الاصطناعي العامة والوطنية، مثل أبيرتوس، أكثر مسؤولية. ويمكنها إنارة الطريق مقارنة ببقية الشركات الساعية إلى تحقيق الأرباح.

وتقول: “أشجع هذه الفرق لإثبات قدرة الأبحاث العامة على التغلّب على شركات التكنولوجيا الكبرى، لأنها قادرة على ذلك بالفعل”.

تحرير: غابي بولار

ترجمة: عبد الحفيظ العبدلّي

التدقسق اللغوي: لمياء الواد