Fähigkeiten und Grenzen – das sind wichtige Begriffe in der Forschung von Yvonne Rogers. Sie will ausloten, was KI-Systeme für die menschliche Gesundheit leisten können, wo ihre Grenzen liegen – und welche Tabus ihnen eine verantwortungsvolle Programmierung setzen muss. Außerdem möchte sie, dass auch Mediziner:innen und Patient:innen besser verstehen, was KI kann – und was nicht.

Yvonne Rogers zählt zu den führenden Forschungspersönlichkeiten auf dem Gebiet der Mensch-Technik-Interaktion. Die britische Psychologin und Informatikerin forscht und lehrt am renommierten University College London und hat sich als U Bremen Excellence Chair-Inhaberin seit 2020 sechs Jahre lang intensiv mit der Frage beschäftigt, wie KI-Systeme die Gesundheitsversorgung verbessern können. „Human Computer Interactions: AI in Healthcare“ lautete der Titel ihres Projekts. Die Excellence-Chair-Inhaber:innen fungieren als Brückenköpfe zwischen der Universität Bremen und führenden Wissenschaftseinrichtungen weltweit.

Mit KI neue Zusammenhänge entdecken

Besonders für Mediziner:innen sieht die Professorin für Interaction Design vielfältige Möglichkeiten, sich im Arbeitsalltag KI-basiert unterstützen zu lassen: „In der wachsenden Menge an Gesundheitsdaten neue Zusammenhänge zu entdecken und Muster und Trends zu verstehen – das hat großes Potenzial, die Versorgung zu verbessern“, sagt sie. „Vor allem ermöglicht es Gesundheitsdienstleistern, besser informiert zu sein und umfassendere und aussagekräftigere Diagnosen und Behandlungen zu entwickeln. Wir haben verschiedene Technologien erforscht, die dies unterstützen können, darunter mobile Apps, Virtual Reality und Chatbots.“ So könnten ausgewertete Gesundheitsdaten bei individuellen Behandlungsentscheidungen im Krankenhaus hilfreich sein, bei der Überwachung von Krankheitsverläufen helfen oder wichtige übergreifende Daten zur Gesundheit der Bevölkerung liefern.

Für medizinische Laien sieht sie die Lage anders: „Es besteht das Risiko, dass einige Menschen von Gesundheits-Chatbots abhängig werden und sie als Vertrauenspersonen behandeln. Um solche Risiken zu vermeiden, ist es wichtig, Apps zu gestalten, die verantwortungsvollen KI-Rahmenwerken und Leitlinien entsprechen.“ Generative KI könne zwar Ersteinschätzungen zu medizinischen Fragen liefern – doch die passten nicht in jedem Fall zu den tatsächlichen Problemen der Betroffenen. KI müsse deshalb stets als Werkzeug betrachtet werden, das in Kombination mit anderen menschlichen Therapien und Behandlungen eingesetzt wird. Als Beispiel nennt sie verschiedene Tools, die psychische Gesundheit und Wohlbefinden unterstützen. „Unsere Forschung zeigte, wie diese Anwendungen Menschen dabei helfen können, ihr persönliches Leben effektiv zu planen, zu reflektieren und zu bewältigen.“

Unter Pandemie-Bedingungen gestartet

Als Yvonne Rogers und ihre beiden Teams in London und Bremen mit der Arbeit begannen, taten sie dies unter erschwerten Bedingungen. Kurz nach Projektstart brach die Corona-Pandemie aus: „Das machte es schwierig, unser Team aufzubauen, ein Netzwerk zu etablieren und kollaborativ zu forschen“, erinnert sich Rogers, die zuvor von dem Informatik-Professor Johannes Schöning eingeladen worden war, um als Excellence Chair-Inhaberin in Bremen zu forschen. „Sobald wir jedoch wieder reisen konnten, holten wir die verlorene Zeit nach. Bei unserem ersten gemeinsamen Treffen nach Covid in Bremen war die Verbindung sehr stark und die Emotionen sehr greifbar.“ Die Promovierenden arbeiteten eng zusammen und organisierten mehrere erfolgreiche gemeinsame Veranstaltungen, darunter internationale Workshops und Summer Schools. „Es war eine Freude zu sehen, wie sie durch ihre Promotionen wuchsen und Verbindung aufbauten, erfolgreich promovierten, weiterzogen und dann ihre eigenen Forschungskarrieren entwickelten. Das Excellence-Chair-Projekt war unglaublich unterstützend, um dies zu ermöglichen.“

Trotz des schwierigen Starts war es für Yvonne Rogers und ihre beiden Teams ein günstiger Zeitpunkt: Da das Thema KI mitten in der Projektlaufzeit stark an öffentlicher Aufmerksamkeit gewann, konnten sie eine Reihe hochwertiger Papers auf Top-Konferenzen vorstellen, die inzwischen gut zitiert werden. Rogers knüpfte mehrere langfristige Kontakte zu Forschenden in Bremen, mit denen sie bis heute zusammenarbeitet.

Neue Projektideen gewonnen

Von herausragenden Forschungsergebnissen spricht auch Rainer Malaka. Als Professor für Digitale Medien und Geschäftsführender Direktor des Technologiezentrums Informatik und Informationstechnik (TZI) an der Universität Bremen war er Gastgeber für Yvonne Rogers. „Die Zusammenarbeit war sehr positiv“, sagt Malaka, der Yvonne Rogers auch bei künftigen Forschungsanträgen als externe Kooperationspartnerin einbinden möchte.

Das TZI werden die Ergebnisse aus der Forschungskooperation in laufenden Projekten und geplanten Forschungsanträgen jedenfalls noch lange weiter beschäftigen – davon ist Rainer Malaka überzeugt. So ist sein Institut im Bereich der kommunikativen KI an der Forschungsgruppe ComAI beteiligt, in der Impulse aus der Zusammenarbeit relevant sind. Gleiches gilt auch für ein neu beginnendes Projekt, das vom Bundesministerium für Bildung und Forschung gefördert wird und Fehlinformationen im Gesundheitsbereich und die Analyse durch KI-Sprachmodelle untersucht. „Insgesamt“, so Malaka, „konnten wir auf dem Feld der gesundheitlichen Anwendungen digitaler Medien und dem Feld der kommunikativen KI neue Forschungsideen auf den Weg bringen und werden diese auch in Zukunft weiter verfolgen.“