Das Embedded Ethics Lab des Center for Artificial Intelligence in Medicine (CAIM) unterstützt die Aktivitäten des CAIM hinsichtlich ethischer Fragen. Es möchte sowohl einen öffentlichen Dialog mit der Gesellschaft führen als auch die Forschenden zur Reflexion der ethischen Herausforderungen ihrer Arbeit anregen. Denn das CAIM entwickelt neue Technologien, um eine bessere Versorgung von Patientinnen und Patienten mittels Einsatz von Künstlicher Intelligenz (KI) zu ermöglichen.

Kann die KI als Assistenzsystem eingesetzt werden, um Gesundheitsfachpersonen zu unterstützen? Kann sie Ärztinnen und Ärzte entlasten, so dass sie sogar mehr Zeit mit ihren Patientinnen und Patienten verbringen können? Und wohin entwickelt sich die KI in der Medizin – wird sie in Zukunft Verantwortung übernehmen, Vorhersagen über unsere Gesundheit machen und Entscheide für uns treffen?

«Wir haben in diesem Herbst die Nacht der Forschung der Universität Bern genutzt, um die Besucherinnen und Besucher zu KI in der Medizin zu befragen», sagt Rouven Porz, assoziierter Professor für Medizinethik und Ethik-Experte im CAIM Ethics Lab. Die Besucherinnen und Besucher wurden eingeladen, sich mittels einer Online-Umfrage oder Post-it-Zetteln vor Ort dazu zu äussern, was sie mit KI im Gesundheitswesen verbinden und wie sie deren Zukunft entgegensehen. Diese – nicht repräsentative – Befragung wurde nun ausgewertet.

Thema KI mehr ins Medizinstudium einbinden

Insgesamt lagen Rückmeldungen von 120 Personen vor. In der Online-Umfrage bewerteten die Teilnehmenden jeweils auf einer Skala von 1 bis 10 (keine bis vollständige Zustimmung) die eigene Kenntnis über KI sowie einige Tendenzen. 91 Prozent stimmten der Aussage «Ich verstehe gut, was mit KI gemeint ist» überwiegend bis vollkommen zu (36% bzw. 55%). 89% waren sich einig, dass «KI unsere Zukunft entscheidend prägen wird». 78% meinten aber auch, dass KI viele ethische Fragen aufwerfe. Bei der freien letzten Antwort «Was geht Ihnen noch durch den Kopf…?» betonten viele der Befragten, dass es wichtig sei, die Öffentlichkeit über KI aufzuklären und das Thema vermehrt in das Medizinstudium einzubinden.

KI – Konkurrenz oder Hilfe für den Menschen?

Durchmischter waren die Antworten auf die Fragen «KI in der Medizin macht mir Angst» sowie «KI wird unsere menschliche Intelligenz nie ersetzen» (41% 1-3 Punkte, 27% 4-5 Punkte, 32% 6-8 Punkte, 0% 9-10 Punkte). Dies spiegelt sich auch in den Post-it-Zetteln, auf denen die Besucherinnen und Besucher ihre Meinung frei äussern konnten. Die Aussagen lassen sich grob in die Rubriken «Ängste» sowie «Chancen» unterteilen.

Insgesamt liefert die nicht-wissenschaftliche Umfrage Hinweise darauf, dass sich die «Ängste» auf die Unterschiede zwischen der KI und dem Menschen beziehen und dass eine gewisse Konkurrenz-Situation wahrgenommen wird. So enthielten einige Rückmeldungen die Befürchtung, dass die KI den Menschen ersetzen könnte. Der Grund dafür – dass sie schneller, besser und stärker sein könnte – wurde hingegen auch als «Chance» angesehen. So könne die fehlende Emotionalität der KI dazu führen, dass die Diagnostik im Gesundheitswesen schneller und genauer werde, was wiederum zu einer Kostensenkung führe. Typische Fehler durch menschliches Versagen könnten besser identifiziert und vermieden werden. Durch ihre höhere Genauigkeit und Analyseleistung wurde der KI zudem zugetraut, auf den individuellen Menschen stärker zugeschnittene Behandlungen zu ermöglichen.

Mehr Kommunikation und Einbezug der Patientinnen und Patienten gewünscht

Weitere Rückmeldungen unterstrichen die Notwendigkeit von staatlichen Kontrollmöglichkeiten, etwa durch gesetzliche Rahmenbedingungen, mit der Option, der KI «den Stecker zu ziehen». Dies ging einher mit Überlegungen zur Verantwortlichkeit: Zum einen hätten KI-Entwicklerinnen und -Entwickler hier eine sehr grosse Macht, die sie verantwortungsvoll nutzen müssten. Zum anderen dürfe man die Verantwortung für medizinische Entscheidungen nicht an die KI abgeben, da ja weiter der Mensch die Verantwortung tragen müsse. Mehrfach wurde geäussert, dass – mit oder ohne KI – Ärztinnen, Patienten und Ingenieurinnen mehr und besser miteinander kommunizieren sollten und dass es zentral sei, Patientinnen und Patienten in die KI-Entwicklung einzubeziehen.

Resultate in die Forschung einfliessen lassen

Für Rouven Porz vom Embedded Ethics Lab zeigt die Umfrage zunächst einmal, dass das CAIM gut beraten ist, ethische Aspekte von Künstlicher Intelligenz zu thematisieren: «Gerade in der Medizin weckt die KI Hoffnungen und Ängste. Was davon wahr wird, liegt auch daran, wie KI weiterentwickelt wird.» Und Claus Beisbart, Wissenschaftsphilosoph am Embedded Ethics Lab des CAIM, fügt hinzu: «Wir nehmen die Resultate dieser Umfrage in unsere Gespräche mit jungen Forschenden mit. Ausserdem wollen wir die Ergebnisse auch in unsere eigene Forschung am Lab einfliessen lassen.»