Frau Müller, in Ihrem Beitrag bei SCIENCE GOES PUBLIC! sprechen Sie über digitale Tools wie Apps, die diskriminierend und sexistisch sein können. Was kann man sich darunter vorstellen?

Ich habe in den letzten Jahren vor allem im Bereich der Medizinethik und Digitalisierung geforscht. Untersucht habe ich zum Beispiel Schlaf-Tracker, Fitness-Tracker und ähnliche Tools, die zur Aufzeichnung und Messung von Körperdaten genutzt werden können. Dabei sind mir digitale Tools begegnet, die Diskriminierung und Sexismus impliziert haben. Nehmen wir das Beispiel von Fitnessapps, die auf Frauen spezialisiert sind: Oftmals werden dort anhand eines pinken Designs und Darstellungen von schlanken jungen Frauen Schönheitsideale und Stereotypen vermittelt und dadurch suggeriert, wie eine Frau aussehen sollte. Ein anderes Beispiel aus dem medizinischen Bereich sind KI-basierte Diagnosetools zur Hautkrebserkennung. Diese Diagnosetools funktionieren jedoch bei einem hellen Hautton besser als auf dunkler Hautfarbe, da überwiegend Daten von weißen Menschen eingespeist wurden und die KI daran „gelernt“ hat. Etwas Ähnliches sehen wir in der klinischen Forschung, die in der Vergangenheit häufig an jungen gesunden Männern durchgeführt und bei der Frauen oft ausgeschlossen wurden. Dadurch entstand eine Datenlücke, der sogenannte „Gender Data Gap“. Diese Datenlücken sollten wir nicht unhinterfragt in das Digitale übertragen.

Was sind die Auswirkungen?

Im Beispiel der Fitnessapps geht es um Fragen wie: Wie soll eine „Frau“ sein? Wer gilt als „Frau“ – und wer nicht? Gesellschaftliche Normen werden durch stereotype Darstellungen in den Apps weitergegeben und sogar verstärkt, mit der Gefahr, dass diejenigen, die nicht diesen Normen entsprechen, ausgeschlossen werden. Durch einseitige Darstellungen können Gruppen marginalisiert und unsichtbar gemacht werden. Im Beispiel der Hautkrebserkennung kann die einseitige Dateneinspeisung zu verspäteten oder gar Fehldiagnosen bei Menschen mit dunkler Hautfarbe führen. Die genannten digitalen Tools sind konkrete Beispiele aus der Praxis, dahinter stehen Fragen der Gerechtigkeit. In der feministisch-ethischen Forschung sollen genau diese Probleme aufgedeckt, verstanden und diskutiert werden. Dabei geht es mir nicht nur um einen Feminismus, der sich ausschließlich mit Frauen beschäftigt, sondern um einen Feminismusbegriff, der alle Gruppen einschließt, deren Belange von der Dominanzgesellschaft als unwichtig(er) bewertet werden.

Sind das Probleme, die jede Art von Digitalisierung mit sich zieht? Sind solche Fragen zum Beispiel relevant beim Vorhaben, eine Organisation komplett papierfrei zu gestalten?

Ich denke, dass feministisch-ethische Werte auf alle Digitalisierungsprozesse angewendet werden können. Wenn wir wieder das Beispiel des KI-basierten Diagnosetools nehmen, geht es ja nicht nur um die Daten, die beispielsweise einem KI-basierten System eingespeist werden, sondern auch darum, wie die Systeme mit der Umwelt agieren und daraus „lernen“. Auch die Entwickler:innen, die ein System generieren, können sexistische oder diskriminierende Sichtweisen einfließen lassen. Dies gilt für den gesamten Prozess: von der Idee, über die Entwicklung, bis hin zum Vertrieb und Marketing. Das Beispiel einer papierlosen Organisation wirkt auf den ersten Blick vielleicht harmlos. Aber auch in so einem Prozess sollten sich Fragen gestellt werden wie: Sind digitale Dokumente barrierefrei zugänglich? Wer spricht in welcher Reihenfolge und wie lange in Onlinemeetings? Braucht es auch digitale Safe Spaces, wenn wir im realen Raum auch Rückzugsorte für Menschen haben, die von gesellschaftlicher Ausgrenzung und Benachteiligung betroffen sind?

Bleiben wir beim Beispiel der Apps: Was macht eine App denn feministisch?

Mit genau dieser Frage beschäftige ich mich in meiner aktuellen Forschung, daher habe ich darauf (noch) keine abschließende Antwort. Um zu beurteilen, ob eine App feministisch ist, schaue ich mir unter anderem das Konzept an, das hinter einer App steht, das Design und Marketing, die Funktionen, die angesprochene Zielgruppe, den Datenschutz und die Arbeitsbedingungen, unter denen diese App entstanden ist.

Was wären beispielhafte Hilfestellungen für Nutzer:innen, wie sie ein feministisches digitales Tool finden können?

Dass zum Beispiel ein Kriterienkatalog entwickelt werden könnte, ist eher schwierig, da jedes digitale Tool abhängig vom spezifischen Kontext seiner Nutzung und den individuellen Nutzer:innen betrachtet werden sollte. Zudem kommt es natürlich auch auf die feministische Strömung an, die zur Bewertung herangezogen wird. Diese können sich stark in ihren Zielen und Bewertungen unterscheiden. Nehmen wir feministische Ansätze aus der Bioethik, spielen zum Beispiel die Autonomie der Anwender:innen, Privatheit und Datenschutz sowie Machtverhältnisse, Relationalität und Intersektionalität eine Rolle. Orientierungshilfen für Nutzer:innen könnten dann zum Beispiel folgende Fragen sein: Wer hat die App entwickelt? Wer soll damit angesprochen werden? Wer profitiert davon? Wie ist die App zugänglich? Wer wurde mitgedacht – oder eben nicht? Nicht alle Kriterien haben für alle Anwender:innen eine gleichwertige Gewichtung. Der Anspruch einer feministischen Ethik ist aber auch nicht das Aufstellen von starren Richtlinien, sondern das Sichtbarmachen von Problemen und Geben einer Orientierung.

Feminismus und Digitalisierung in der Kneipe

Wer dieses Thema spannend findet und mehr dazu erfahren möchte, kann am 6. April Dr.ⁱⁿ Regina Müller in der Kono Bar beim diesjährigen SCIENCE GOES PUBLIC! treffen. Ab 20:30 Uhr spricht sie in ihrem Beitrag „Algorithmen in pink? Warum Digitalisierung (mehr) Feminismus braucht“ über feministisch-ethische Perspektiven auf Digitalisierungsprozesse und warum diese wichtig sind.

Mehr Infos zum Programm und den anderen kostenlosen Kneipenvorträgen vom 2. März bis zum 6. April gibt es auf der Webseite der Veranstaltungsreihe SCIENCE GOES PUBLIC!.