Wenn die Vorurteile der KI Personalentscheide beeinflussen

Die Algorithmen basieren auf historischen Daten und neigen bei der Personalauswahl dazu, lineare und durchgängige berufliche Laufbahnen zu bevorzugen, die bei männlichen Profilen häufiger anzutreffen sind. Keystone/DPA/Matthias Bein

Künstliche Intelligenz dringt in die Arbeitswelt vor, auch in der Schweiz. Sie verspricht Effizienz, bringt aber auch neue Herausforderungen mit sich. Während Unternehmen beginnen, KI zur Auswahl von Kandidierenden und zur Optimierung von Prozessen einzusetzen, tauchen Bedenken wegen Fehler- und Diskriminierungsrisiken auf – besonders gegenüber Frauen.

Laut dem Quartalbericht von Manpower bleiben die Arbeitgeber in der Schweiz bei ihren Einstellungsprognosen für das zweite Quartal 2026 vorsichtig. Unternehmen setzen auf flexible Arbeitsmodelle und die Suche nach Talenten. Dabei greifen sie bei der Personalauswahl auch auf KI zurück.

Genau in diesem Bereich zeigen sich jedoch verschiedene Schwachstellen: So melden Personalverantwortliche Fälle, in denen Kandidierende zu Unrecht ausgeschlossen wurden, während einige Unternehmen beanstanden, dass ungeeignete Profile vorgeschlagen wurden oder Vorurteile in die Bewertungen eingeflossen sind.

Ein Verstärker von Diskriminierung?

Das Thema der diskriminierenden Auswirkungen wird noch deutlicher, wenn man den Einfluss auf Frauen betrachtet. Da Algorithmen auf historischen Daten basieren, neigen sie dazu, geradlinige und kontinuierliche Berufsverläufe zu bevorzugen, wie sie häufiger bei männlichen Profilen vorkommen. Infolgedessen können Lebensläufe mit Unterbrechungen, Teilzeitarbeit oder Karrierewechseln benachteiligt werden.

«Die Systeme lernen aus der Vergangenheit. Wenn die Vergangenheit jedoch keine Frauen enthält, weil sie nicht dokumentiert wurden, dann wird das nicht in den Systemen gespeichert. Das bedeutet, dass das Leben von Frauen nicht existiert», sagt die Schweizer Informatikerin und Zattoo-Gründerin Bea Knecht gegenüber RSI.

Für Solange Ghernaouti, Professorin an der Universität Lausanne, ist das Problem jedoch weitreichender: «Niemand hinterfragt dieses System. Algorithmen erleichtern die Automatisierung von Diskriminierungen gegenüber Frauen und Minderheiten, die dadurch unanfechtbar werden, weil sie in die Software integriert sind. Künstliche Intelligenz wird so zu einem Katalysator und Verstärker von Diskriminierung.»

Gleichzeitig gibt es auch optimistischere Sichtweisen. Knecht betont, dass KI auch eine Chance sein kann: «Zum ersten Mal haben wir ein Werkzeug, das für alle zugänglich ist und keine unzähligen Stunden Training erfordert, wie etwa bei einem Chirurgie-Roboter. Frauen müssen verstehen, wie es funktioniert und wie sie es nutzen können, um ihr Geschäft oder ihre Arbeit zu verbessern. Es ist ein echtes Werkzeug der Gleichberechtigung.»

Regeln und kollektive Verantwortung

Dennoch bleibt die Frage der Regulierung und Kontrolle bestehen. «Das Thema der künstlichen Intelligenz darf nicht allein den Technikerinnen und Technikern überlassen werden», sagt die Politologin Anna Jobin. Sie betont die Notwendigkeit eines kollektiven Ansatzes und plädiert für Massnahmen, welche die weibliche Perspektive ausdrücklich berücksichtigen.

Auch die häufig vorgebrachte Idee, den Frauenanteil in wissenschaftlichen Bereichen zu erhöhen, gilt nicht als ausreichend. «Es reicht nicht, mehr Frauen in der KI zu haben – es braucht weibliche Vorbilder, die in der Lage sind, Alternativen und eine pluralistische Vision vorzuschlagen», sagt Ghernaouti.

Zwischen Anwendungsschwierigkeiten, Diskriminierungsrisiken und noch zu entfaltendem Potenzial bleibt die Rolle der KI in der Arbeitswelt also im Wandel. Ein Aspekt scheint jedoch klar: Die Entscheide darüber, wie KI eingesetzt und reguliert wird, liegen nach wie vor beim Menschen.

Diskutieren Sie mit:

Übertragung aus dem Italienischen: Christian Raaflaub