Von der Wissenschaft in die Praxis

Am 22. Juni startet der Healthcare Hackathon in Mainz. Elisabeth und Boris, ihr werdet dort das Projekt vorstellen, an dem das Fraunhofer IKS und ATOSS gemeinsam mit der Universitätsmedizin Mainz und Flying Health arbeiten. Worum geht es dabei?

Boris: In Bezug auf das Projekt hat jeder seine eigene Perspektive. Für mich geht es darum, dass wir im Bereich der Pflege bei der Personalbedarfsplanung einen wesentlichen Beitrag leisten können. Die Basis bilden Daten und Fähigkeiten, die jetzt schon in unserem aktuellen Produkt vorhanden sind, aber durch den Einsatz von Künstlicher Intelligenz (KI) noch optimiert werden können. Dadurch werden künftig noch genauere Bedarfsprognosen möglich.

Elisabeth, wie ist deine Sicht auf das gemeinsame Projekt?

Elisabeth: Aus meiner Sicht ist es ein ideales Projekt, bei dem wissenschaftliche Expertise in die Praxis übersetzt wird. Wir beim Fraunhofer-Institut für Kognitive Systeme IKS arbeiten in erster Linie auf wissenschaftlicher Basis mit dem Ziel, Publikationen zu veröffentlichen. Das dient primär dazu, Erkenntnisse mit anderen Wissenschaftlern zu teilen. Bei diesem Projekt schafft unsere Fachexpertise einen echten Mehrwert für die Praxis. Und das macht es für mich so besonders.

Was ist genau deine Aufgabe bei dem gemeinsamen Projekt, Elisabeth?

Elisabeth: Meine Aufgabe in unserem gemeinsamen Projekt besteht vor allem darin sicherzustellen, dass wir vom Fraunhofer IKS die korrekte wissenschaftliche Grundlage liefern und dafür sorgen, dass das Endresultat möglichst robust ist und umfassend evaluiert wird.  Ich bin dafür verantwortlich, dass das reale Problem in ein mathematisches Problem übersetzt wird, das von einer Künstlichen Intelligenz gelöst werden kann. Bei der KI gibt es zwei Welten: Klassifizierung und Regression. In unserem Fall war die Regression von großer Bedeutung. Während die Klassifikation eine Aussage darüber trifft, ob ein Patient krank ist oder nicht, ist dies allein für die Pflegepersonalbedarfsermittlung nicht ausreichend. Wir benötigen stattdessen einen Regressionswert, der kontinuierliche Vorhersagen ermöglicht, beispielsweise wie viele Pflegekräfte am nächsten Tag auf einer bestimmten Station benötigt werden. Sich über die mathematische Grundlage klar zu werden, war der erste Schritt. Danach folgten weitere Schritte, die bei der Entwicklung eines KI-Modells erforderlich sind, in einer bestimmten Reihenfolge. Dass diese Schritte korrekt eingehalten werden und das Ergebnis am Ende robust und valide eingesetzt werden kann, ist mein Aufgabenbereich.

Und diese Schritte definierst du selbst oder sind das die allgemeinen Definitionen?

Elisabeth: Diese Schritte und der Ablauf in der richtigen Reihenfolge sind Vorgehensweisen, die sich in der wissenschaftlichen Gemeinschaft bewährt haben. Im Prinzip kann man sie als Common Sense bezeichnen, der in fast jeder wissenschaftlichen Veröffentlichung standardmäßig angewendet wird.

Boris, welche Rolle hast Du in diesem Projekt?

Boris: Ich betrachte mich als Bindeglied zwischen dem Produkt mit all seinen Möglichkeiten und der Künstlichen Intelligenz, die im Rahmen des Projekts zum Einsatz kommen soll. Beide Aspekte zusammenzuführen im Kontext der Anwendung und auf technischer Ebene, ist mein Ziel. Dabei ist für mich wichtig, möglichst viel Knowhow und Input von Fraunhofer zu bekommen und dieses Knowhow in der Ausbildung meines Teams und in der Weiterentwicklung unserer Produkte einzusetzen.
 

Erfahren Sie mehr über das Thema Gesundheitswesen:

• Einfluss von Künstlicher Intelligenz auf das Gesundheitswesen
• Think Tank ohne Grenzen und Hürden
• KI-optimierte Personaleinsatzplanung im Krankenhausalltag
• Planer und KI als erfolgreiches Team
• Prädiktive Analysen und datengetriebene Versorgungsmodelle

Der Bereich KI ist noch neu für ATOSS?

Boris: Richtig. Aus diesem Grund ist mein persönlicher Antrieb, aus diesem Projekt so viel Wissen wie möglich zu ziehen. Die Basics möchte ich gerne lernen. Den wissenschaftlichen Teil sollen meine neuen Kollegen übernehmen (lacht). Aus meiner Sicht ist das ganze Projekt eine sehr fruchtbare Zusammenarbeit.

Mit welchen Daten werdet ihr arbeiten? Woher bekommt ihr diese Daten?

Boris: Die Daten, mit denen wir arbeiten, stellt uns die Universitätsmedizin Mainz zur Verfügung. Das sind quantitative Patienteninformationen. Das heißt, es sind anonymisierte Daten zu der Bettenbelegung und dem Krankheitsgrad oder der Einstufung der Patienten – aus Datenschutzaspekten ist also alles völlig korrekt. Diese beiden Faktoren sind die Grundlagen für die zu planende Pflege bzw. die Anzahl der benötigten Kräfte im Verhältnis zu den Patienten und der Schwere ihrer Erkrankung. Genau das wollen wir prognostizieren.

Das sind also keine personenbezogenen Daten?

Boris: Personenbezogene Daten sind für unsere Arbeit im Augenblick unwesentlich. Allerdings sind wir perspektivisch auch an weiteren Daten interessiert, die die KI intelligenter und damit die Prognosen genauer machen. Wir führen hier eine offene Diskussion, die den Blick auch über den Tellerrand hinaus richtet. Für den Moment lässt sich sagen: Das Modell funktioniert auf Basis der vorliegenden quantitativen Daten schon recht gut.

Wann kann, Eurer Einschätzung nach, das Modell in der Realität zum Einsatz kommen? Was fehlt dafür noch? Vielleicht ein regulärer Datenfluss?

Boris: Das Wort Datenfluss trifft den Kern gut. Das aktuell vorliegende Datenpaket, das wir von der Universitätsmedizin erhalten haben, ist ausreichend, um ein Modell für ein Test-Setup, eine Beispielstation, zu berechnen. Das Ziel muss allerdings sein, einen täglichen oder monatlichen Datenfluss als Mechanismus zu etablieren, wenn wir eine verlässliche Monatsplanung prognostizieren wollen.

Sind das dann nur Informationen aus dem Krankenhausinformationssystem oder auch darüber hinaus?

Boris: Es wäre in der Tat sehr hilfreich, wenn gleichzeitig aktuelle Informationen in den Prozess einfließen und verarbeitet werden könnten. Das sind meiner Meinung nach die Herausforderungen bei der Umsetzung in die Praxis. Aktuell ist das noch Zukunftsmusik und sprengt den Rahmen dessen, was wir zum Healthcare Hackathon in dem Projekt erreichen können. Auf unseren begrenzten Use Case bezogen sieht es allerdings gut aus. Da sind wir „ready to go into practice“, richtig Elisabeth?

Elisabeth: Ja das stimmt. Man darf hierbei nicht vergessen: Wir bewegen uns in einem sehr abgesteckten Use Case einer einzigen Beispielstation. Als nächstes muss sich das Modell in der Realität beweisen. Die Ergebnisse, die wir retrospektiv evaluieren, müssen auf dieser einen Station auch prospektiv auf die nächsten sechs Monate gesehen den Mehrwert bringen, den wir uns wünschen.

Können dabei noch Probleme die Arbeit erschweren?

Elisabeth: Ja, zum Beispiel eine fehlerhafte Integration der KI in den laufenden Prozess, oder dass sich die Rahmenbedingungen in der Praxis von den Testumgebungen unterscheiden können. Ein sogenannter Distribution Shift, bei dem sich die Verteilung der Daten im realen Einsatz von der ursprünglichen Verteilung während der Entwicklung und Tests unterscheidet, kann die Leistung der KI beeinflussen. Es müssen daher geeignete Maßnahmen ergriffen werden, um diesen Verteilungsunterschied zu berücksichtigen und die Robustheit und Zuverlässigkeit der KI zu gewährleisten. Sind fast alle Probleme ausgeschlossen, kann das KI-Modell weiter ausgebaut werden.

Woher wisst ihr, ob das Modell in der Praxis funktioniert?

Elisabeth: Die Ergebnisse erster Tests werden mit den Fachleuten von der Universitätsmedizin Mainz besprochen und mit deren Erfahrung abgeglichen.

Können die Ergebnisse für diese eine Teststation im Idealfall einfach hochskaliert werden oder ist es nicht so einfach, wie es klingt?

Elisabeth: Das ist der Punkt. Nur weil ein Modell für Station A funktioniert, muss es nicht auch für Station B funktionieren. Was nötig sein wird, ist eine Art automatisierter Auswahlprozess. Dieser wählt aus einer Vielzahl von Modellen die aus, die sich bereits in einem ähnlichen Rahmen bewährt haben, sodass die bestmöglichen Ergebnisse für die einzelnen Situationen erzielt werden. Es ist wichtig zu beachten, dass Verallgemeinerungen manchmal funktionieren können, aber grundsätzlich als schwierig zu bewerten sind. Wenn die KI beispielsweise nur mit Daten alter Patienten trainiert wurde, lassen sich die Ergebnisse nicht automatisch auch auf junge Patienten übertragen.

In welchen Bereichen seht ihr neben der Personalbedarfsprognose weitere Anwendungsmöglichkeiten für Künstliche Intelligenz?

Boris: Im gesamten Gesundheitswesen sehe ich unglaublich viel Potenzial, insbesondere, wenn man auch Krankheitsdaten einbezieht, sodass z.B. Diagnostik, Planung und Belegung in einem Prozess ablaufen können. Das verhindert der Datenschutz aktuell. Meine Vision ist, dass in der Zukunft sämtliche Daten in die Berechnungen der KI einfließen, denn je mehr Daten, desto besser die Ergebnisse. Das gilt auch für viele andere Branchen, mit denen wir uns beschäftigen.

Elisabeth, gibt es für Dich als KI-Spezialistin einen Bereich, in dem du gern forschen und vielleicht wieder etwas in die Praxis umsetzen würdest?

Elisabeth: Ein spannendes Forschungsfeld, welches noch recht neu ist, nennt sich „Reinforcement Learning“. Dabei geht es darum, dass eine selbstlernende Maschine basierend auf Belohnungen den bestmöglichen Pfad geht: Ein Auto beispielsweise, das von selbst lernt, einzuparken. Im medizinischen Umfeld kommt Reinforcement Learning bei Intensivpatienten mit Multiorganversagen zum Einsatz. Die Maschine, die bereits in Krankenhäusern eingesetzt wird, versorgt das Multiorgan-Zusammenspiel.

Wie funktioniert das genau?

Elisabeth: Ohne das lernende System muss der Arzt alle paar Minuten an einem Regler drehen, um beispielsweise die Sauerstoff-Zufuhr zu erhöhen - je nachdem, wie sich der Gesamtzustand des Patienten verändert. Die Maschine hingegen kann ohne regelmäßige Anpassungen durch den Menschen einen stabilen Zustand des Patienten erzeugen und diesen über mehrere Stunden halten. Damit wird das Personal so weit entlastet, dass mehr Zeit für das Wesentliche bleibt.  Das ist mein momentanes Lieblings-Forschungsfeld.

Welchen Stellenwert hat das Thema Ethik bei der Diskussion um KI?

Elisabeth: Das ist eine sehr wichtige Frage, die viele Menschen beschäftigt. Die Ethik ist kein allzu großes Thema, solange die KI keine eigenen Entscheidungen trifft, sondern nur als Unterstützungs-Tool verwendet wird und weiterhin der Mensch die Entscheidungen trifft. Sobald sich das ändert und die KI in der Lage ist, eigene Entscheidungen zu treffen, stehen wir vor großen Herausforderungen. Aber an diesem Punkt sind wir aktuell noch nicht. Man kann bislang noch nicht einschätzen, was passiert, wenn…

Wie gehst Du im Rahmen der Entwicklung mit der Frage nach der Ethik in Bezug auf die KI um, Boris?

Boris: In jedem Fall ist sie einer der Gründe, warum wir mit Fraunhofer zusammenarbeiten, um dieses ethische Verständnis von vornherein in unsere Arbeit einzubeziehen und als Grundlage für künftige Prozesse zu verankern.

Die Bundesregierung plant die Regulierung der KI nach verschiedenen Einstufungen. Also wie gefährlich ist welche Anwendung? Boris, irritieren dich diese Bestrebungen?

Boris: Mich irritiert das insofern, als dass meinem Gefühl nach der Gesetzgeber gar keine Chance hat, mit dem schnellen technischen Wandel Schritt zu halten. Möglicherweise hält man sich mit Risiken auf, die wir zum Zeitpunkt des Inkrafttretens der Regulierung längst überwunden haben. Oder andere Risiken werden potenziell übersehen oder zeichnen sich vielleicht erst in der Zukunft ab. Diese Problematik müssen wir in einer soliden gesellschaftlichen Debatte thematisieren und durch ein ernsthaftes, verantwortungsvolles Vorgehen im Blick behalten.

Das klingt, als seien solche Regulierungsvorhaben eigentlich unrealistisch?

Boris: Sie sind in jedem Fall eine große Herausforderung. Vermutlich wird die Regulierung immer zu spät kommen oder viel zu eng gefasst sein. So wie ich den Datenschutz an einigen Stellen für zu limitierend halte. Das lähmt den Fortschritt eher und der Zugewinn für den individuellen Datenschutz bleibt eventuell auf der Strecke. Gegebenenfalls entsteht sogar Gefahr, wenn Dinge pauschal verboten werden, die bei verantwortungsbewusstem Umgang im besten Sinne für das Wohl der Menschheit eingesetzt werden könnten.

Kommen wir noch mal zurück zum gemeinsamen Projekt: Ab wann ist das Projekt für euch ein Erfolg oder ist es bereits ein Erfolg?

Elisabeth: Die Frage vorab ist für mich: Wie messen wir den Erfolg des Projektes? Wenn es nur darum geht, ob wir es geschafft haben, ein Modell zu entwickeln, das die Zeitreihen modelliert, dann haben wir jetzt bereits einen Erfolg von etwa 80 Prozent erreicht. Es stehen noch einige Tests und Experimente aus, deren Ergebnisse wir benötigen, um möglichst viel in der Evaluierung abzudecken. Für mich persönlich ist das Projekt ein Erfolg, wenn aus dem Klinikum zurückgemeldet wird, dass durch den Einsatz der KI-basierten Planungssoftware eine konkrete Zeitersparnis entsteht, und das Personal sich mehr mit den Patienten beschäftigen kann als mit administrativen Abläufen.

Boris: Für mich ist in Bezug auf den Nutzen auch entscheidend, ob neben einer Vereinfachung in den Abläufen auch eine Qualitätssteigerung erreicht werden konnte. Damit meine ich, dass die Planung am Ende besser funktioniert, dass es weniger Überlastung gibt und die Mitarbeiter weniger Überstunden leisten mussten. Das sind Kriterien für eine gute Dienstplanung. Wenn wir es schaffen, eine messbare Verbesserung für das Pflegepersonal zumindest in einem Test-Szenario zu erreichen und das dann auch noch in ein Produktfeature überführt werden kann, dann ist das Projekt in meinen Augen ein echter Erfolg.

Wie lange wird es dauern, bis diese Einschätzung getroffen werden kann?

Boris: Ich gehe davon aus, dass uns diese Informationen Anfang 2024 vorliegen und wir dann wissen, wie wir die ATOSS Medical Solution noch einmal deutlich besser für die Anwender und für die gemanagten Pflegekräfte machen können.

Vielen Dank Euch beiden für das Gespräch.