Chancengleichheit
«Unterschiedliche Perspektiven sind für KI unerlässlich»
Die Initiative Diversity for AI in Medicine lehrt, wie man faire und gerechte KI-Anwendungen entwickelt, die für die Menschheit hilfreich sind. Nun hat das Team hinter der Initiative den Chancengleichheitspreis Prix Lux der Universität Bern erhalten.
Stavroula Mougiakakou: Wir haben DAIM im Jahr 2022 in der Aufbauphase des Zentrums für künstliche Intelligenz in der Medizin (CAIM) ins Leben gerufen, das alle in diesem Bereich tätigen Berner Forschenden virtuell zusammenführt. Die Initiative wurde als Reaktion auf die weltweite Besorgnis über Vorurteile und Ungleichheiten bei KI-Anwendungen ins Leben gerufen. Wir wollen Inklusion und Vielfalt fördern und sind der Meinung, dass unterschiedliche Perspektiven für die Innovation in der KI unerlässlich sind, insbesondere in so wirkungsreichen Bereichen wie dem Gesundheitswesen und der Medizin. Wir möchten junge Frauen aber auch Forschende aus Minderheitengruppen ermutigen, eine Karriere im Bereich der KI für die Medizin einzuschlagen.
Wer ist an DAIM beteiligt?Monika Kugemann: Die Initiative wird im Wesentlichen von zwei Gremien getragen: dem DAIM-Komitee und der DAIM-Gemeinschaft. Das Komitee besteht aus drei leitenden KI-Forschenden sowie einem Experten für Ethik und mir als Kommunikationsspezialistin. Wir treffen uns, um die verschiedenen Aktivitäten zu planen und zu organisieren, wie etwa Lunch-Talks oder unsere grosse jährliche Veranstaltung im März. Wir diskutieren auch Ideen zur Sensibilisierung der Öffentlichkeit, einschliesslich gemeinsamer Veranstaltungen mit dem CAIM Ethics Lab.
Die DAIM-Community steht grundsätzlich allen offen, die auf dem Gebiet der KI in der Medizin tätig sind und sich für Themen wie Inklusion, Fairness, Erklärbarkeit oder Transparenz in KI-Algorithmen interessieren. Wir halten den Fokus bewusst breiter als nur «mehr Frauen in der KI». Wir arbeiten auch mit anderen Initiativen der Uni Bern wie KILOF, der Bern Data Science Initiative, «Womxn who start up» und dem KI-Symposium der sitem-insel zusammen. Wer mitmachen will, muss sich nur anmelden. Die Community wächst stetig und umfasst mittlerweile mehr als 150 Personen. Wir möchten uns ganz herzlich bei der Community für ihre Unterstützung bedanken! Ihre aktive Teilnahme, ihr Feedback und ihre Ideen sind eine unschätzbare Hilfe auf unserem Weg.
«Wir haben DAIM als Reaktion auf die weltweite Besorgnis über Vorurteile und Ungleichheiten bei KI-Anwendungen ins Leben gerufen.»
Stavroula Mougiakakou
Auf Ihrer Website heisst es: «DAIM will [...] Inklusion fördern, um [...] Vorurteile in der KI-Entwicklung zu bekämpfen». Das klingt grossartig. Aber es klingt auch etwas ungreifbar.Mougiakakou: Es ist nicht ungreifbar. Im Gegenteil: Es gibt eine Fülle von Beispielen für KI-Modelle, die Vorurteile haben und Stereotypen verstärken. Solche Vorurteile werden nicht absichtlich erzeugt, sondern sind oft einfach das Ergebnis von Unwissenheit oder mangelnder Aufmerksamkeit. Mit diverseren Menschen, die Algorithmen entwickeln, erhöhen wir unsere Chancen, faire und unvoreingenommene Lösungen zu finden.
Kugemann: Manchmal entstehen Verzerrungen in den Modellen, weil die Daten, auf denen die KI-Modelle trainiert werden, einseitig oder verzerrt sind: Sie repräsentieren nur einen Teil unserer Gesellschaft. Zum Beispiel wurden Frauen während ihrer gebärfähigen Jahre lange Zeit aus Sicherheitsgründen von vielen klinischen Studien ausgeschlossen. Daher gelten die Ergebnisse dieser Studien für männliche Körper. Das hat praktische Konsequenzen. Auf einer von uns organisierten Veranstaltung zum Thema Voreingenommenheit in der KI und in der Medizin erzählte uns eine Onkologin, dass Immuntherapien bei männlichen Patienten besser wirken als bei weiblichen.
DAIM
DAIM ist eine Initiative des Zentrums für Künstliche Intelligenz in der Medizin (CAIM) der Universität Bern. DAIM zielt darauf ab, Vielfalt, Gleichberechtigung und Inklusion zum Wohle der Gesundheit und des Wohlergehens von KI-Forschenden zu fördern. Dies durch Projekte zu Anwendungen im Gesundheitswesen, akademischer Exzellenz und Innovation durch den Einbezug vielfältiger Sichtweisen in die KI-Forschung sowie durch die Bekämpfung von Voreingenommenheit bei der Entwicklung von KI-Anwendungen.
Kugemann: Ja, aber das Wissen um die Lücken in den Daten kann ein erster Schritt sein, um Abhilfe zu schaffen.
Mougiakakou: Ja, zum einen muss man, wenn man Verzerrungen nicht vermeiden kann, diese auch kommunizieren. Man muss klar sagen, welche Daten verwendet wurden und was das Modell kann und was nicht. Es ist unfair, falsche Erwartungen zu wecken. Andererseits ist die Entwicklung neuer KI-Modelle ein sehr aktives Forschungsgebiet. Wir verwenden viel Zeit und Energie auf die Entwicklung von Algorithmen, die in der Lage sind, potenzielle Verzerrungen in den Daten, mit denen sie trainiert werden, zu erkennen, zu quantifizieren und zu korrigieren. Wir versuchen auch, Methoden zu entwickeln, die die Interpretierbarkeit und Transparenz erhöhen. Wir wollen KI-Modelle schaffen, die erklären können, wie sie funktionieren und warum sie eine bestimmte Entscheidung treffen und keine andere.
«Frauen in gebärfähigen Jahren wurden von vielen klinischen Studien ausgeschlossen. Daher gelten die Ergebnisse dieser Studien für männliche Körper. Das hat praktische Konsequenzen»
Monika Kugemann
Wie belohnen Sie Ansätze, die Fortschritte machen?Mougiakakou: Es gibt einen eigenen DAIM-Preis, der an Forschungsprojekte vergeben wird, die innovative Lösungen zum Abbau von Vorurteilen bieten und gleichzeitig integrative Forschungspraktiken fördern. Die preisgekrönten Projekte sind eine Art Best-Case-Beispiele, die zeigen, dass unsere Ziele nicht nur theoretisch sind, sondern dass sie auch in die Praxis umgesetzt werden können. Es ist uns sehr wichtig, die interdisziplinäre Zusammenarbeit zu fördern und zu unterstützen, denn die erfolgreiche Umsetzung von KI-Lösungen im Gesundheitswesen hängt entscheidend von der Teamarbeit ab: Die Entwicklerinnen von Algorithmen, die Ärzte und die Patientinnen sind wie verschiedene Teile eines Puzzles, und alle diese Teile müssen an die richtige Stelle gesetzt werden, um das Puzzle zu lösen.
Mougiakakou: Letzten Endes ist die Bekämpfung von Diskriminierung eine Frage der Kultur und der Bildung. Wir müssen ein Bildungssystem schaffen, in dem Studierende lernen, dass alle Menschen die gleichen Rechte haben. Mit der Zeit werden diese Werte in die KI-Lösungen einfliessen, die sie entwickeln werden. Deshalb haben wir unseren Masterstudiengang «Künstliche Intelligenz in der Medizin» ins Leben gerufen, in dem sich die Studierenden von Anfang an mit der Frage beschäftigen, wie sie faire und gerechte KI-Anwendungen entwickeln können, die der Menschheit helfen. Der Studiengang startete 2021 und ist in meinen Augen ein grosser Erfolg. Dies nicht nur weil er viele Studierende, auch aus dem Ausland, anzieht. Sondern auch, weil mehr als 50 Prozent unserer Studierenden Frauen sind. Dieser Prozentsatz liegt weit über dem weltweiten Durchschnitt, wo Frauen nur 26 Prozent der Arbeitskräfte im Bereich der KI ausmachen.
«Letzten Endes ist die Bekämpfung von Diskriminierung eine Frage der Kultur und der Bildung»
Stavroula Mougiakakou
Wie erklären Sie sich diesen hohen Frauenanteil?Kugemann: Wir sind uns nicht ganz sicher, was die Gründe für das aussergewöhnliche Interesse junger Frauen an unserem Masterprogramm sind. Es hat wahrscheinlich damit zu tun, dass das Programm einen einzigartigen Ansatz bietet, der den Studierenden nicht nur eine solide Grundlage in KI vermittelt, sondern auch die Möglichkeit bietet, direkt mit Ärztinnen und Ärzten im Spital zusammenzuarbeiten. Die Masterstudierenden, die alle einen Hintergrund in Ingenieurwissenschaften, Informatik, Mathematik oder Physik haben, erhalten während ihrer Einsätze am Inselspital wichtige Einblicke in den Alltag auf verschiedenen Spitalstationen.
Mougiakakou: Vielleicht hängt das Interesse auch damit zusammen, dass wir drei Professorinnen haben, die im Masterstudiengang unterrichten. Wir können Vorbilder sein und der allgemeinen Auffassung entgegenwirken, dass Computer und Algorithmen eine Domäne der Männer sind. Ich weiss nicht, ob es eine geheime Zutat gibt. Aber auf jeden Fall werden unsere Kurse mit viel Sorgfalt und Enthusiasmus organisiert und unterrichtet.
Kugemann: Das Ziel gilt für beide. Es gibt KI-Anwendungen, die Patienten dabei unterstützen und befähigen, ihre chronischen Krankheiten wie Diabetes oder verschiedene Augenkrankheiten selbst zu überwachen. Indem sie ihnen helfen, besser mit der Krankheit zu leben, tragen solche KI-Lösungen zur Schaffung von Chancengleichheit für Patientinnen bei. Andere KI-Anwendungen unterstützen gute und objektive klinische Entscheidungen. Selbst am Ende eines sehr langen Tages werden KI-Systeme nicht müde oder weniger aufmerksam – und ermöglichen so eine faire und gerechte Beratung für jeden Patienten. KI ist jedoch immer ein Hilfsmittel für die Expertinnen und Experten und ersetzt sie nicht.
DAIM ist nun mit dem Chancengleichheitspreis der Universität Bern, dem Prix Lux, ausgezeichnet worden. Wissen Sie schon, wofür Sie das Preisgeld verwenden werden?Kugemann: Wir freuen uns sehr über diesen Preis! Es ist eine sehr schöne Anerkennung für die harte Arbeit, die wir – und alle anderen in der DAIM-Gemeinschaft – in dieses Vorhaben gesteckt haben. Wir werden das Geld nutzen, um unser Portfolio in den nächsten Jahren zu erweitern. Wofür genau, bleibt vorerst eine Überraschung, da die Diskussionen noch nicht abgeschlossen sind.
PRIX LUX
Der Prix Lux der Universität Bern prämiert Engagement für die Chancengleichheit. Für den Preis nominiert werden können Gruppen sowie kleinere oder grössere Einheiten, die sich für die Gleichstellung im Bereich «Gender und Diversität» an der Universität Bern engagieren. Die dabei angewandten Massnahmen sollen eine Diskussion zu Gleichstellungs- und Chancengleichheitsthemen anregen, innovativ, originell und nachhaltig sein sowie Transferpotenzial aufweisen. Die nächste Ausschreibung für den Preis erfolgt im Frühjahrsemester 2025.
uniAKTUELL-Newsletter abonnieren
Entdecken Sie Geschichten rund um die Forschung an der Universität Bern und die Menschen dahinter.
