#97 KI im Krankenhaus Teil 2 - Von Pilotprojekten zu messbarem Mehrwert mit Dr. Markus Mandrella

00:00:00: Hallo und herzlich willkommen zu Chatbots & KI.

00:00:03: Mein Name ist Thomas Bahn, ich wünsche Ihnen viel Spaß bei der heutigen Folge!

00:00:22: In

00:00:26: der vorherigen Folge ging es um KI im Gesundheitswesen am Beispiel des Universitätsklinikums Schlessey-Kolstein.

00:00:32: Wir haben darüber gesprochen, dass KI in der Medizin nicht erst mit Chatchi BT begonnen hat, sondern schon lange in Forschung und Diagnostik eingesetzt wird.

00:00:39: Außerdem ging es auf konkrete Projekte am UKSH von KI Unterstützung in Radiologie & Pathologie über sichere Chatbots für Ärztinnen und Ärzte bis hin zur Anwendungen für Selbsteserkennung Notaufnahme und Verwaltung.

00:00:51: Ein zentrales Thema dabei war auch die Datenqualität, denn nur gut strukturierte und verfügbare Daten lassen sich sinnvoll für KI nutzen.

00:00:59: In dieser Folge geht es nun stärker um die Frage wie solche KI-Lösungen wirklich im Klinikalltag ankommen?

00:01:05: Wir sprechen über Vertrauenadakzerperns, über Halluzinationen und Diskilling, über Datenschutzregulatorik und die Frage, wie aus Pilotprojekten messbarer Mehrwert entsteht.

00:01:15: Außerdem werfen wir einen Blick darauf, welche Rolle KI künftig im Gesundheitswesen spielen kann gerade angesichts von Fachkräftemangel steigender Nachfrage und hohem Dokumentationserwand.

00:01:24: Ich wünsche Ihnen viel Spaß bei der heutigen Folge!

00:01:27: Was habt ihr sonst noch an Herausforderungen?

00:01:30: Natürlich muss KI auch im Alltag ankommen und genutzt werden also viel dreht sich natürlich um das Vertrauen und die Akzeptanz der Nutzer.

00:01:38: Es ist jetzt aus meiner Erfahrung so im Gesundheitswesen immer mehr, dass diese Lösungen auch gefordert werden.

00:01:44: Also jeder kennt es mittlerweile aus dem Privatleben man nutzt Apps und Chatbots und die Leute fordern das zunehmend auch in Berufsleben ein.

00:01:54: Ich frage dann nicht eher warum ist hier noch eine neue digitale Lösung?

00:01:57: sondern ich frage eher warum habe ich das was sie im Privat Leben haben?

00:02:00: Nicht auch hier im Krankenhaus?

00:02:02: Das hat sich gedreht.

00:02:03: Insbesondere würde ich auch sagen, seit Corona da hat wirklich so einen Umschwunk angefangen.

00:02:08: also wir müssen die Leute weniger davon überzeugen dass etwas kommt sondern eher davon warum es noch nicht da ist und warum es ein bisschen Arbeit dahinter braucht.

00:02:18: aber wenn man dann tatsächlich ins tun kommen mit solchen KI-Lösungen dann gibt's ja auch zwei Phänomene die mir auch aufgefallen sind die man berücksichtigen muss.

00:02:26: Einerseits ist das Vertrauen in so eine Technologie auch dadurch aufgebaut, dass man weiß da passieren jetzt keine Fehler.

00:02:34: Ich kann auch der Aussage vertrauen oder ich kann sie zumindest schnell überprüfen und bei KI können wir Phänomen der Halluzination.

00:02:41: Und das hat natürlich insbesondere medizinischen Umfeld eine massive Auswirkung,

00:02:46: d.h.,

00:02:46: wir müssen dort auch dazu kommen dass die Systeme so aufgebaut sind und dass Menschen auch den System vertrauen, wenn sie eine gewisse Sicherheit haben.

00:02:54: Das andere große Phänomene ist das De-Skilling.

00:02:57: Das bezeichnet das Phänumen, wenn wir Dinge häufig über KI machen, die auch verlernen.

00:03:04: Also das kennt vielleicht jeder, der dann eine KI-Mahl häufiger nutzt um irgendwie eine E-Mail zu schreiben oder einen längeren Text.

00:03:10: Wenn man das mal eine Zeit lang macht, dann verlernt man auch gewisse Dinge!

00:03:14: Ich

00:03:14: würde gar nicht mehr so weit gehen und das ist zwar ja ne große Sorge in den siebziger Jahren, achtziger jahren wenn man Taschenrecheneinsätze hier Leute verlieren ja zu rechnen im Kopf.

00:03:24: Gutes Beispiel...

00:03:25: Ist im Prinzip die gleiche Diskussion nur auf einem anderen Niveau klar?

00:03:28: Genau oder Navigationssysteme.

00:03:30: Ich glaube, so mit.

00:03:31: mein persönlicher Orientierungssinn hat sich deutlich verschlechtert seitdem ich durchgängige Navigation-Systeme einsetze.

00:03:38: Trotzdem stellt sich gerade die Frage, wo KI dann in einen medizinischen Kernbereich wie beispielsweise Diagnostik oder auch Briefschreibung eindringt?

00:03:48: Welche Fähigkeiten wollen wir erhalten und welche Fähigkeit können wir guten Gewissens abgeben?

00:03:53: Das heißt das ganze Thema Kompetenz

00:03:56: usw.,

00:03:56: spielt da eine tragende Rolle Und für uns ist es einfach sehr wichtig am UKSH, dass wir dort die Mediziner in den ganzen Prozess auch frühzeitig mit einbeziehen.

00:04:07: Wir haben dort jetzt auch im Zuge der KI-Welle so eine Gruppe etabliert der IT-Docs – so haben wir sie getauft und das ist eine Community bei uns schon mittlerweile über hundert Ärzte und Ärztinnen dabei Und die binden wir genau in solche Projekte mit ein.

00:04:24: Also das waren zum Beispiel auch unsere Pilot Nutzer, dieses Chatbots den ich vorhin beschrieben habe oder die haben zB auch bei uns die durchgängige Spracherkennung mit pilotiert und uns Feedback gegeben... ...und dadurch wussten wir bevor wir das jetzt an alle verteilt haben Okay, wir haben da wirklich Leute die sich damit beschäftigen und ihnen damit arbeiten.

00:04:43: Und uns Hinweise geben können.

00:04:44: wie können wir das noch mal näher am Nutzer machen?

00:04:47: Das hat auch tatsächlich dann auch geholfen.

00:04:49: Die sind ja auch diejenigen, die bei ihren Kolleginnen und Kollegen dafür sorgen dass solche Lösungen akzeptiert werden und dass da auch das Vertrauen drin wächst.

00:04:57: Man hat erst einmal die Piers, die gesagt haben, das funktioniert.

00:05:00: Dann ist es natürlich erstmal noch viel leichter.

00:05:05: Was noch gibt es noch weitere Themen?

00:05:08: Also wir sind ja gerade auch in einer Phase, wo diese KI-Projekte jetzt vielleicht so zwei-, drei Jahre, also grade die generativen KI- Projekte zwei-, dreijahre im klinischen Umfeld laufen.

00:05:20: Und das ist nicht nur ein Phänomien im Gesundheitswesen, sprich der da allgemein vom AI Paradox.

00:05:26: Wir investieren momentan eine ganz schöne Menge in KI an Mitteln Aber nur die wenigsten Projekten schaffen am Ende tatsächlich den Durchbruch ... und schaffen einen messbaren Mehrwert.

00:05:39: Ich kenne die Studie, aber ich kann sagen bei uns ist das anders?

00:05:42: Ja,

00:05:43: bei uns

00:05:43: auch!

00:05:45: Aber bei den anderen ist es so habe ich gehört.

00:05:49: Tatsächlich muss man sagen wir leiden ja auch im Gesundheitswesen ein bisschen darunter... bezeichnen man ja auch so ein bisschen als die Pilotitis.

00:05:57: Also immer mal hier ein Pilotprojekt oder da eine coole Technologie, das wollen wir mal ausprobieren.

00:06:03: aber sich jetzt wirklich mal Gedanken zu machen was möchte man damit verbessern?

00:06:07: Patientenzufriedenheit, Effizienz, Arbeitszeitersparnis oder wie auch immer?

00:06:12: und wie können wir das am Ende auch nachweisen?

00:06:14: und wie kann mir auch die Prozesse so verändern dass diese Technologien wirklich am ende etwas bringen?

00:06:20: Das ist etwas wo wir glaube ich noch alle lernen müssen.

00:06:24: Und auch da gucken wir einfach drauf, ich habe ja vorhin Hackathon und Adrenalin und solche Formate angesprochen.

00:06:31: Also wir bauen da auch wirklich Prozesse drum herum um sicherzustellen dass wir auch wenn man solche Projekte einführen da wirklich ein Mehrwert am Ende draus ziehen.

00:06:40: Man sagt ja auch dieses Am Anfang schon das Ende denken Das heißt dieses wie ist es Betrieb?

00:06:46: Was muss es da sein, damit es zum Schluss läuft?

00:06:49: Was würdest du mir am Schluss bringen und dann rückwärts zu sagen okay wie komme ich jetzt dahin.

00:06:54: Und lohnt sich das überhaupt?

00:06:55: den Weg um mich auf dem Weg zu begeben?

00:06:57: wenn ich am Anfang nachdenke dass es irgendwie noch gut ist wird mehr vielleicht so fünf Minuten pro Tag einsparen von bei zwanzig Personen dann würde sich einen zwanzichtausend Euro Projekt vielleicht nicht lohnen und solche Sachen kann man ja am Anfang auch schon mal durchdenken.

00:07:10: Ja ganz genau!

00:07:11: Und seltenes am Ende die Technik die würde.

00:07:15: Die Technik ist schon sehr ausgereift.

00:07:17: Aber unsere Organisationen sind häufig noch nicht so weit, diese Technologien auch wirklich zu adaptieren.

00:07:24: Datenqualität habe ich angesprochen.

00:07:26: Die Prozesse oder die Befähigung und die Skills der Mitarbeitenden mit den Technologin umzugehen – das sind dann eigentlich die Faktoren, die am Ende den Unterschied ausmachen.

00:07:36: Die Technikk an sich, die reine Technik, ist es in den seltensten Fällen.

00:07:40: Wobei natürlich die Skalierbarkeit Betriebssicherheit, Robustheit oder so.

00:07:45: Das können schon ein Projekt zum Fall bringen, wenn man das nicht am Anfang daran denkt, dass man es in halt nicht nur zweiundzig Leute gleichzeitig benutzen, wenn wir eine große Testgruppe als vielleicht zwanzig, sondern vielleicht zweihundert- oder zweitausend Leute gleichzeitig benutzten?

00:07:58: Das

00:07:58: stimmt ja.

00:07:59: also da muss man auch frühzeitig planen.

00:08:01: Kommen wir zum Elefanten im Raum.

00:08:02: Datenschutz und KI-Verordnung.

00:08:05: Wie geht ihr damit um?

00:08:06: Ja du hast es angesprochen ist der Elefant im Raum.

00:08:09: Wir haben echt wirklich im Gesundheitswesen zahlreiche Regulierungen, Datenschutz die KI-Verordnung der Zeit aber auch beispielsweise Medizinprodukteverordnungen und diese Regeln sind auch nicht unbedingt immer passgenau.

00:08:26: also es gibt auch durchaus Widersprüche und Unklarheiten.

00:08:30: Wir haben auch da nochmal die Schwierigkeit dass das auch Landesdatenschutzechnisch teilweise unterschiedlich geregelt ist.

00:08:36: insgesamt würde ich sagen, die diese Regulierung haben natürlich alle ihren richtigen Zweck und natürlich wir sind wirklich auch kritische Infrastruktur als Universitätsklinik hier in Schleswig-Holstein.

00:08:49: Für uns ist es natürlich auch sehr wichtig dass wir dort sicher agieren und natürlich sind Patienten und Sozialdaten höchst schützenswert.

00:08:57: also da gibt's keine Diskussion das ist klar.

00:09:00: Was wir nur tun ist, wir denken dort Lösungsorientiert und wir verstecken uns nicht hinter der Regulatorik.

00:09:06: Ich glaube das ist ein Phänomen was es noch häufig gibt dass es dann auch als Ausrede genutzt wird ja Datenschutz geht doch gar nicht.

00:09:14: nein Es gibt sehr viele gute Konzepte auch wie man mit dem Thema datenschutz und regulatorik umgehen kann.

00:09:20: Ein Beispiel die Das thema cloud Cloud Technologie Ist ja immer auch so Im Gesundheitswesen ein bisschen kritisch beäugt worden, weil Daten dort natürlich dann irgendwie nicht im eigenen Keller verarbeitet werden.

00:09:34: Sondern ich sage mal erst mal irgendwo anders aber auch da gibt es Möglichkeiten zum Beispiel mit einer souveränen-Cloud-Lösung sicherzustellen dass die Daten verschlüsselt sind das die Daten nur in deutschen Rechenzentren verarbeitete werden und dass wir dort auch gewisse Ausfallkonzepte haben.

00:09:50: Das heißt man kann auch immer überlegen okay welche Lösungen gibt es denn um die Regulatorik zu erfüllen Und dort diese möglicherweise noch mal als Qualitätsmerkmal zu nutzen.

00:09:59: Gerade in der Forschung braucht man ja eben halt auch mehr Daten, als nur die von den eigenen Patienten und die müssen gut vorgereinigt sein also anonymisiert sein.

00:10:08: aber trotzdem ist es halt wichtig damit überhaupt Fortschritte gibt und die nicht nur in China oder USA passieren dass solche Daten zur Verfügung gestellt werden und ausgetauscht werden dürfen.

00:10:18: Ja Da es finde ich auch sehr wichtig, zu schauen.

00:10:21: Das Thema Risikobewertung an der Stelle ist ja auch noch mal wichtig.

00:10:25: also wie du sagst in den medizinischen Daten die wir haben liegt ja auch eine riesen Chance.

00:10:30: Also wir können da ja auch Fortschritte erzielen, die am Ende auch wieder Patienten zugute kommen.

00:10:37: und da muss man einfach schauen ja Sicherheit ist wichtig aber Man muss auch gucken, nicht jedes kleine minimalste theoretische, hypothetische Restrisiko über den Nutzen auch, den wir mit solchen Lösungen schaffen können drüberzustellen.

00:10:54: Also ich erinnere mich einfach wie hatten eine Podcast-Folge schon mit Professor Siener aus vom UK an Lübeck wo es denn auch um personalisierte Medizin geht, wo's zum Beispiel ein Projekt gibt Aus Messwerten die von Variables von von so einer Apple Watch oder sowas generiert werden, auf den Glucose-Wert zu schließen.

00:11:12: Um dieses invasive Messverfahren wo ich mir eine Nadel auf die reinstechen muss halt möglichst zu vermeiden und damit eben auch eine Skalierbarkeit zu erreichen dass man sagt viele Leute haben Variables, haben so ein Messgerät am Armgelenk und können dann vielleicht in großen Mengen können in Screenings stattfinden was sonst gar nicht machbar wäre?

00:11:32: Ja anderes, also personalisierte Medizin ist ein super Stichwort.

00:11:36: Also da wird eine Menge Musik drin sein in der Zukunft.

00:11:40: Da gehören zum Beispiel auch Genom-Daten zukünftig mit dazu.

00:11:44: Wir werden viel mehr dazukommen dass wir sagen können wir können Therapien stärker an den Patienten ausrichten individuell und dadurch die Behandlungserfolge erhöhen Weil wir dann eben diese guten Daten haben, einmal aus der Vergangenheit daraus trainiert Rückschlüsse gezogen haben.

00:12:01: Aber auch weil wir die einzelnen Daten des Patienten dort zu Rate ziehen können.

00:12:05: das wird auf jeden Fall eine ganz wichtige Entwicklung in der Medizin sein.

00:12:10: Dazu müssen aber auch solche Forschung möglich sein und dazu müssen Regelungen geschaffen werden bzw sie so interpretiert und ausgelegt werden und so umgesetzt werden dass es machbar ist.

00:12:20: Ganz genau, da gibt's auch mittlerweile ganz gute Entwicklungen.

00:12:22: wir haben ja auch zum Beispiel schon am OKSA seit längerem den Board Consent im Einsatz.

00:12:26: das heißt das ist eine Einverständnis Erklärung die Patienten unterschreiben können wenn sie ihre Daten für die Forschung zur Verfügung stellen wollen und auf dieser Basis haben wir dann eben eine superrechtliche Grundlage um damit auch Fortschritte zu erreichen.

00:12:41: Wie siehst du den Entwicklung von KI im Gesundheitswesen generell?

00:12:43: Und wie stellst du sicher oder wie stellt ihr sicher, in Zukunft eine führende Rolle spielt.

00:12:49: Ich glaube, das Gesundheitswesen steht jetzt vor großen Herausforderungen in den nächsten Jahren.

00:12:54: Wir haben zum einen eine deutlich höhere Nachfrage nach dem Gesundheitswesen.

00:13:01: Das liegt zum einen daran, dass die Babyboomer-Generation jetzt in den Ruhestand geht.

00:13:06: D.h.,

00:13:07: wir haben dort auf der einen Seite einen hohen Fachkräftemangel.

00:13:10: Bis im Jahr two-tausenddreißig werden rund zehn Millionen Fachkräfte weltweit im Gesundheitswiesen fehlen.

00:13:17: Das heißt, wir haben auch weniger Leute die in die Sozialsysteme einzahlen und so weiter.

00:13:21: Und gleichzeitig eine alldannene Bevölkerung, die das Gesundheitswesen mehr in Anspruch nimmt.

00:13:25: Wir haben auch über personalisierte Medizin gesprochen also das heißt mit tendenziell auch teureren Behandlungsmethoden.

00:13:34: Gleichzeitig reden wir darüber dass dreißig Prozent der ärztlichen Arbeitszeit in Dokumentation einfließt.

00:13:39: Also das passt ja irgendwie nicht zusammen!

00:13:42: Deswegen glaube ich wird KI dort ein ganz wesentlicher Hebel sein im Gesundheitswesen, um die Effizienz zu steigern und eben dieses Zusammenspiel aus Angebot und Nachfrage in dem System wieder auf einem besseres Level zu kriegen.

00:13:57: So dass wir sagen können, wir können unser, was ich immer finde, immer noch gutes Niveau im Gesundheits- wesen aufrechterhalten zukünftig indem wir effizienter werden.

00:14:05: Und das ist so.

00:14:06: einmal der Fokus auf das Thema Prozesse und Bürokratie sage ich mal.

00:14:11: Der andere wichtige Punkt in der Medizin kann auch sein, dass der Fokus wieder weniger auf die Systeme und auf die Abläufe und auf Die Administration gelegt wird.

00:14:22: Weil diese Dinge zukünftig eben autonomer durch Kai übernommen werden können Sondern das der Fokuss auch wieder von vom Personal oft mehr auf den Patienten gehen kann Und auf die eigentlichen Medizin.

00:14:34: Das ist glaube ich so eine Vision, die ganz spannend sein kann.

00:14:38: Da muss ich dir jetzt einfach auch ganz ehrlich sagen, ich kann da schlecht in die Zukunft blicken.

00:14:43: Die technologische Entwicklung ist momentan so rasant!

00:14:46: Das ist einfach echt irre was im KI-Umfeld passiert.

00:14:50: Da kommen ja gefühlt irgendwie alle paar Wochen wieder eine neue technische Revolution und da können wir einfach nicht sagen so, dass es in den Jahren für die Projekte, die Tools oder Technologien sein wird auf die wir setzen.

00:15:03: Was wir aber schaffen müssen im UKSH, ist das richtige Fundament und die Rahmenbedingungen zu legen so dass wir dort auch ja mit allem was kommt.

00:15:13: Auch schnell sind die Dinge zu adaptieren und bei uns zu nutzen also die Datenqualität ordentlich in den Griff zu kriegen und weiterzuentwickeln.

00:15:22: Richtige Plattformen zu etablieren wo solche KI-Agenten beispielsweise auch entwickelt und genutzt werden können unser Personal zu befähigen und zur Schulen KI auch richtig zu nutzen.

00:15:32: Regulatorik den rechtlichen Rahmen schaffen, damit wir dort nicht mit jedem Projekt irgendwie solche Dinge nochmal neu klären müssen.

00:15:39: Sondern dass wir einfach gute Rahmenbedingungen haben und uns auch organisatorisch so weiterzuentwickeln Auch in der IT Dass wir genau eben auch diese Schnelligkeit schaffen und organisatorische gut aufgestellt sind.

00:15:51: Und ihr sucht ja auch ständig neue Partner oder weitere Partner für das Innovationsmanagement?

00:15:56: Ja ganz genau also.

00:15:58: Ich hatte ja schon mal gesagt, unser Leitbild ist Spitzen-IT für Spitzenmedizin.

00:16:03: Und wir versuchen da natürlich auch immer die Entwicklung mitzugestalten und frühzeitig dabei zu sein.

00:16:09: Wir haben dort verschiedene Formate am UKSH – ich habe das Adrenalin angesprochen, unseren Wettbewerb, Ideenwettbewerk!

00:16:16: Wir haben diesjahr wieder im Juli in Berlin ein Herzkehr-Hackathon, den wir als UKSH ausrichten und in diesem ganzen Umfeld was wir dort schaffen Versuchen wir auch immer neue Lösungen mit zu unterstützen und großzumachen.

00:16:32: Gab aber auch schon mal die ein oder anderen Start-ups, die mit uns kooperiert haben, die dann auch am UKSH einmal wirklich den Fuß durch die Tür gekriegt haben in die echte klinische Welt.

00:16:41: Und wir da von beiden Seiten immer sehr viel gelernt haben.

00:16:46: Falls es da auch Start-Ups Unternehmen gibt, die diesen ganzen Umfeld auch mit uns Kooperieren wollen... Da sind wir da auch immer offen für.

00:16:53: Wir haben da zuletzt auch so eine Datenplattform aufgebaut.

00:16:56: Die haben wir jetzt zuletzt auf der DMEA vorgestellt, das ist die größte Digital Health-Messe in Europa und da hatten wir letzte Woche einen aktuellen Stand.

00:17:05: Das ist auch eine Plattform wo wir für solche Unternehmen dann auch anonymisierte Daten bereitstellen um am Ende mit uns Produkte gemeinsam zu entwickeln und auch mit uns am Ende eine Partnerschaft einzutreten.

00:17:17: Kontaktdaten kommen natürlich dann in die Show Notes?

00:17:20: Gerne!

00:17:20: Super.

00:17:21: Dann vielen Dank Markus, dass heute da war es.

00:17:23: Es war für mich wieder super spannend und erinteressant was wir hier doch in Stessig-Holstein alles schaffen Und wie ihr auch mit diesen Herausforderungen KI Verordnung Datenschutz umgeht.

00:17:32: Vielen herzlichen dank.

00:17:34: Danke Thomas haben mir Spaß gemacht.

00:17:36: Zum Abschluss lässt sich sagen KI im Gesundheitswesen ist längst kein Zukunftsthema mehr.

00:17:41: Am Beispiel des UKSH haben wir gesehen, wie vielfältig die Einsatzmöglichkeiten bereits heute sind.

00:17:46: Von spezialisierten Anwendungen in der Genostik und Forschung über sichere Chatbots für medizinisches Personal bis hin zu Assistenzsystemen in Notaufnahme, Verwaltung und Dokumentation.

00:17:55: In dieser Folge ging es vor allem darum was passieren muss damit solche Lösungen nicht nur als Pilotprojekt starten sondern im Alltag wirklich nutzen stiften.

00:18:02: Vertrauen Akzeptanz Datenqualität Datenschutz Klare Ziele Und messbarer Mehrwert sind dabei entscheidend.

00:18:09: Gleichzeitig wurde deutlich, die Technik allein ist selten die größte Hürde.

00:18:12: Mindestens genauso wichtig sind passende Prozesse, gute Rahmenbedingungen und die frühe Einbindung der Menschen, die später mit den Lösungen arbeiten.

00:18:20: Wenn Sie in Ihrem Unternehmen oder Ihrer Organisation prüfen möchten – wo KI sinnvoll eingesetzt werden kann unterstützt Astono Sie gern!

00:18:28: Mit Erfahrung aus KI & Chatbot-Projekten.

00:18:30: Besonders hilfreich sind dafür unsere KI-Beratung und KI-Workshops.

00:18:34: Gemeinsam identifizieren wir geeignete Anwendungsfälle, bewerten Nutzen, Aufwand und Risiken und entwickeln einen realistischen Weg von der Idee zur Umsetzung.

00:18:44: Weitere Informationen dazu finden Sie in den Schoenuts.

00:18:46: Vielen Dank fürs Zuhören!

00:18:48: Und bis zur nächsten Folge von Chatbots & KI.