KI ist eine Männerdomäne. Nur rund ein Drittel der „KI-Talente“ war 2022 weiblich, heißt es im „Global Gender Gap Report 2023“ des World Economic Forum. Diese „Diskrepanz“ verschärfe die „geschlechtsspezifischen Ungleichheiten in der Belegschaft“, insbesondere in einem schnell wachsenden Sektor wie der KI, „der erheblichen Einfluss auf verschiedene Branchen hat“, schreiben die Autorinnen und Autoren.
Köszegi, Professorin für Arbeitswissenschaft und Organisation an der Technischen Universität (TU) Wien, führt die Kluft auf einen „Teufelskreis“ zurück, der es Frauen schwermacht, in der Technologiebranche Fuß zu fassen. Ausgangspunkt ist für sie die ungleiche Verteilung unbezahlter Arbeit wie Haushaltsführung, Kindererziehung, Pflege und Fürsorge. Frauen verrichten nach Angaben der Vereinten Nationen 2,6-mal mehr unbezahlte Arbeit als Männer.
Stereotype Bildungsentscheidungen
Kinder bekommen die Arbeitsteilung zwischen den Eltern, aber auch die Berufswahl von Mutter und Vater mit. Die vermittelten Geschlechterrollen „führen zu stereotypen Bildungsentscheidungen“, sagt Köszegi im Gespräch mit ORF.at. Studien zeigen, dass Mädchen bereits in der Schule ihre mathematischen und technischen Fähigkeiten unterschätzen. Die starke „Segregation der Geschlechter“ setze sich bei der Wahl des Studiums und bei beruflichen Entscheidungen fort, so Köszegi, die Vorsitzende des Fachbeirats Ethik der künstlichen Intelligenz der österreichischen UNESCO-Kommission ist.
Ganz allgemein könne das zu einer Benachteiligung von Frauen auf dem Arbeitsmarkt führen. So seien Frauen tendenziell stärker von der Automatisierung betroffen, da sie im Job oftmals Routinetätigkeiten ausführen. Auf der anderen Seite profitieren von der Digitalisierung all jene, die bereits in einem MINT-Beruf (Mathematik, Informatik, Natur- und Ingenieurwissenschaft und Technik) tätig sind.
Veranstaltung im Parlament
Am Donnerstag hielt Köszegi anlässlich des Weltfrauentags bei der Veranstaltung „Frauen und KI – Diskriminierungsfalle oder feministischer Aufschwung“ eine Keynote im Parlament.
In der IT-Branche sind das aktuell zum überwiegenden Teil Männer. Weltweit sind lediglich acht Prozent der Beschäftigten in der Softwareentwicklung weiblich. „Technologien werden oft nicht inklusiv und divers entwickelt, was Frauen den Zugang erschwert und im Grunde genommen ihre Teilhabechancen an Gesellschaft, Politik und Wirtschaft verringert“, sagt die Wissenschaftlerin.
Viele Menschen nehmen Entscheidungen KI-gestützter Systeme als objektiv und neutral wahr. Tatsächlich warnt etwa die Firma OpenAI, ihre KI-Anwendung ChatGPT sei nicht frei von Stereotypen und Bias. Die Verzerrungen ergeben sich aus der Datenbasis, auf deren Grundlage die Systeme lernen. „Bestehende Diskriminierungen bilden sich in Daten ab“, sagt Köszegi. Zudem können Daten selektiv sein, wenn etwa keine Samples in repräsentativer Größe vorhanden sind.
Widerspruch zu Antidiskriminierungsbestimmungen
Problematisch sieht Köszegi den Einsatz von KI bei der Rekrutierung von Personal. Systeme, die anhand von Videos Rückschlüsse auf die Persönlichkeiten zögen, seien nicht verlässlich und wissenschaftlich unseriös, warnt sie.
Zudem sei oftmals nicht transparent, wie das Programm auf die jeweilige Klassifizierung komme. „Viele dieser KI-Systeme widersprechen den gesetzlichen Bestimmungen gegen Diskriminierung“, so die Forscherin.
„Menschen im Fahrersitz lassen“
Als generelles Plädoyer gegen künstliche Intelligenz will Köszegi ihre Kritik nicht verstanden wissen. Zahlreiche Anwendungen seien „vollkommen unproblematisch“ und könnten etwa in den Bereichen Ressourcen- und Energieeffizienz hohen Nutzen bringen.
Beim Einsatz von KI zur Unterstützung menschlicher Entscheidungsfindung sei das Design der Systeme enorm wichtig. Anstatt Menschen zu ersetzen, „sollten wir KI-Systeme dort einsetzen, wo wir Schwächen haben“, sagt Köszegi.
So könne KI helfen, große Datenmengen zu analysieren, und daraus Hypothesen und Vorschläge ableiten. Am Ende sollten aber Menschen entscheiden, wie mit dem gewonnenen Wissen verfahren wird. „Wenn wir Systeme designen, die den Menschen zu jeder Zeit im Fahrersitz lassen, die den Menschen unterstützen und seine Kompetenzen erweitern, ihn aber nicht ersetzen, haben wir den nächsten wichtigen Schritt gemacht“, so Köszegi.