Wann ersetzt Künstliche Intelligenz den Arzt?

Doch welche Auswirkungen hat KI auf die ärztliche Rolle? Wie können ethische Aspekte berücksichtigt werden, wenn ein KI-System medizinische Diagnosen und Behandlungsentscheidungen trifft? Und was ist mit dem Schutz sensibler Patientendaten?

Künstliche Intelligenz (KI) kann große Mengen von medizinischen Daten analysieren und Muster identifizieren. Ihr Einsatz in der Medizintechnik verspricht für viele Anwendungsbereiche großes Potenzial. Nicht erst bei der Diagnostik – bereits bei der Herstellung von Medizinprodukten kann KI Prozesse und Qualität verbessern. KI beeinflusst künftig die gesamte Wertschöpfungskette der Medizintechnik – ein Thema, das sich auch die diesjährige MedtecLIVE vom 18. bis 20. Juni 2024 in Stuttgart auf ihre Agenda gesetzt hat. „Wir erleben eine rasante Entwicklung der KI, sind in Europa bei der Regulierung mit dem AI Act vorne dran und beleuchten auf der MedtecLIVE konkrete Anwendungsfelder und regulatorische Rahmenbedingungen von KI – in der Diagnostik genauso wie in der Produktion“, sagt Christopher Boss, Geschäftsführer der MedtecLIVE GmbH und Executive Director der Veranstaltung.

„Die Komplexität von Prozessen und Produkten hat in vielen Bereichen, einschließlich der Medizintechnik und Biotechnologie, stark zugenommen und ist für den Menschen allein intellektuell immer schwieriger zu beherrschen. Eine Lösung bieten intelligente und vernetzte Sensoren und Sensorsysteme, welche mithilfe künstlicher Intelligenz Daten zu Information verarbeiten und daraus begründete Entscheidungen ableiten“, sagt Dr. Thomas Velten, Leiter Innovationsmanagement am Fraunhofer-Institut für Biomedizinische Technik IBMT. In welchen Bereichen der Medizin unterstützt KI also bereits den Menschen?

Zum einen werden bereits während der Fertigung medizinischer Geräte KI-gesteuerte Vorhersagemodelle zur präventiven Identifikation potenzieller Geräteausfälle angewendet. Und auch die Qualitätsprüfung in der Produktion wird durch KI gestützt, indem sie große Mengen von Daten analysiert und Muster identifiziert, die auf Qualitätsprobleme hinweisen könnten. Auf der anderen Seite gibt es ein weites Einsatzfeld für Künstliche Intelligenz in Medizinprodukten selbst – für Diagnostik und Therapie: Verteilte Datenbestände von Patienten werden durch sogenanntes Swarm Learning analysiert, KI wird für die automatische Bilderkennung sowie in der Labormedizin bereits heute erfolgreich eingesetzt.

KI-basierte Vorhersagemodelle für erhöhte Zuverlässigkeit medizinischer Geräte

Der Einsatz von Künstlicher Intelligenz in der Produktion von Medizintechnik hat zum Beispiel eine Wirkung auf die Zuverlässigkeit medizinischer Geräte. Insbesondere durch den Einsatz von KI-Algorithmen zur präventiven Identifikation potenzieller Geräteausfälle wird die Betriebssicherheit erhöht. Diese fortschrittlichen Modelle analysieren kontinuierlich große Mengen an Gerätedaten, um frühzeitig Anomalien und Unregelmäßigkeiten zu erkennen, die auf mögliche Ausfälle hindeuten könnten. Durch diese proaktive Überwachung werden drohende Defekte identifiziert, bevor sie zu schwerwiegenderen Problemen führen können.

Die Leistungsfähigkeit von KI in medizinischen Systemen für die Mustererkennung ist bereits nachgewiesen und die Gründe, Daten von Medizingeräten mithilfe von KI-Algorithmen auszuwerten, sind vielseitig. Eine zeitnahe und die damit verbundene höhere Verfügbarkeit der Geräte hat positive Auswirkungen auf die Patientensicherheit und optimiert auch die Betriebsabläufe im Gesundheitswesen.

Beispielsweise werden in Produkten von Siemens Healthineers KI-basierte Vorhersagesysteme angewendet, die mit hoher Genauigkeit den Ausgang von Softwaretests vorhersagen. Und auch das Fraunhofer-Institut für Kognitive Systeme IKS forscht zu vertrauenswürdiger Künstlicher Intelligenz und widmet sich der Entwicklung zuverlässiger KI-basierter Prognosen. Das Institut integriert ursachen-begründete Vorhersagemodelle für kausale Analysen, um fundierte Entscheidungen zu ermöglichen. Durch Zeitreihenanalysen werden historische Datenreihen bewertet, um zuverlässige, KI-gestützte Vorhersagen für künftige Entwicklungen zu erstellen. Diese Ansätze finden Anwendung in verschiedenen Bereichen, wie vorausschauender Wartung von Produktionsanlagen. Methoden für robuste, zuverlässige und frühzeitige Vorhersagen zukünftiger Ereignisse werden dabei entwickelt.

KI-Algorithmen für die Qualitätsprüfung

KI-Algorithmen helfen, menschliche Fehler in der Produktion zu reduzieren und die Konsistenz der Qualitätsprüfung zu erhöhen. Durch die Implementierung von KI in die Qualitätsprüfung können Hersteller nicht nur die Produktqualität sicherstellen, sondern auch Kosten senken, indem sie Ausschuss minimieren und die Effizienz der Fertigung steigern.

Die automatisierte Qualitätsprüfung AI.SEE™ des Herstellers elunic verbindet beispielsweise die Intelligenz künstlicher neuronaler Netze mit modernster Bildverarbeitung. Ihre Module sind ausgestattet mit smarten Kameras und KI-basierten Auswertungstools, die laut elunic beobachten, lernen und adaptieren. Jedes Bauteil durchläuft, ganz ohne manuellen Aufwand und vollkommen automatisiert, während der Fertigung den Blick von AI.SEE™, wo jede kleine Abweichung auf komplexen Oberflächenstrukturen erkannt wird. Durch Deep-Learning-Algorithmen können auch winzige Fehler auf heterogenen oder spiegelnden Oberflächen zuverlässig erkannt werden, was dem menschlichen Auge oft nicht möglich ist.

Diese automatisierte Prüfung findet Gebrauch in der Medizin, zum Beispiel auch in der Diagnostik, bei der Auswertung mikroskopischer Bilder, wo sie kleinste Anomalien in der Zellmorphologie untersucht, die auf Krankheiten hinweisen können, oder auch eine Zählung von Zellen oder Bakterienkolonien vornehmen kann. 

Automatisierte Bilderkennung durch KI

Zusammen mit Entwicklungspartnern und unterstützt durch mehrere klinische Partner entwickelt das Fraunhofer IBMT im Verbundprojekt "Ophthalmo-AI ein intelligentes und interaktives Assistenzsystem für Augenärztinnen und -ärzte. Dieses System nutzt Methoden der erklärbaren Künstlichen Intelligenz, um nachvollziehbare Diagnosen und Behandlungsvorschläge zu erstellen. Ziel ist es, den Augenärztinnen und -ärzten dabei zu helfen, anhand von Bilddaten und klinischen Informationen eine korrekte Diagnose zu stellen und die bestmögliche Therapieentscheidung zu treffen. „Das KI-System kennzeichnet zunächst biologische Strukturen und pathologische Merkmale in den Bilddaten, um nachvollziehbare Vorschläge für das medizinische Personal zu generieren. Anschließend leiten spezielle KI-Modelle Diagnosen aus den Bildbefunden und weiteren Patientendaten ab, machen Therapievorschläge und prognostizieren den Therapieerfolg. Durch interaktives maschinelles Lernen wird das Wissen der Ärztinnen und Ärzte in den Prozess integriert“, erklärt Velten vom Fraunhofer IBMT. „Zur Entwicklung des Systems werden umfangreiche und aufbereitete Behandlungsdaten in einer speziellen Datenintegrationsplattform verwendet. Und bei der umfangreichen datengetriebenen Verarbeitung werden die Datenschutzaspekte der DSGVO vollständig beachtet.“

Thomas Velten, Fraunhofer IBMT © Fraunhofer IBMT

Auch Siemens Healthineers nutzt im Rahmen seiner MRT-Portfolios KI-Algorithmen. Einige ihrer MAGNETOM MRT Scanner setzen beispielsweise Algorithmen bei der automatisierten Patientenpositionierung ein. Auf diese Weise soll in Zukunft auch die Bewegung des Herzens automatisch erkannt und damit das zeitintensive Anbringen von Elektroden vermieden werden. Bei der Befundungslösung Syngo Breast Care im Rahmen des Mammographie-Screenings helfen KI-Algorithmen, einzelne Läsionen genauer zu beurteilen und die Zahl falsch positiver Befunde zu verringern – so werden unnötige invasive Diagnostiken vermieden. Um die Beurteilung der Mammographien weiter zu vereinfachen, liefert Syngo Breast Care eine automatische Klassifizierung der Wahrscheinlichkeit einer Brustkrebserkrankung.

Laut dem Prager Unternehmen carebot sind Ärzte, die Künstliche Intelligenz einsetzen, in der Lage, Brustkrebs bereits im Frühstadium zu erkennen. Ihre KI-Anwendung AI MMG analysiert mammographische Bilder automatisch und erstellt eine quantitative Bewertung der Brustdichte. Auf diese Weise verhilft die KI den Radiologen zu einer besseren diagnostischen Genauigkeit und verringert die Variabilität ihrer Einschätzungen. Damit unterstützt sie die Früherkennung von Brustkrebs. Und auch Lungenkrebs kann mit ihrer KI-Lösung früher erkannt werden: Laut carebot beträgt in diesem Fall die Chance des Patienten, das erste Jahr zu überleben, mehr als 87 Prozent. Im vierten Stadium liegt sie dann schon bei weniger als 19 Prozent. Ohne den Einsatz künstlicher Intelligenz in der Praxis ist die Fähigkeit eines Arztes, den Befund Lungenkrebs im Frühstadium auf einem Röntgenbild zu erkennen, wenn der Tumor noch sehr klein ist, sehr begrenzt, in den meisten Fällen sogar praktisch unmöglich.

In sehr vielen Fällen erhöht die automatische Bilderkennung mithilfe von KI also die Patientensicherheit. Durch eine schnellere Analyse von medizinischen Bildern wird die Diagnosestellung verbessert und die Behandlungsplanung beschleunigt.

Einsatz von KI in der Labormedizin

Der Bereich der Labormedizin ist ein sehr wichtiges Einsatzfeld von KI und bietet unter anderem für bildgebende Verfahren große Vorteile und Unterstützung für die Ärzte: Im Universitätsklinikum Essen wurde zum Beispiel mit einem selbstlernenden Algorithmus ein System auf Lungenfibrosen trainiert. Schon nach wenigen Lernzyklen stellte der Computer die Diagnose besser als ein Arzt, denn der Computer vergesse das einmal Gelernte nicht mehr und sei beim Vergleichen von Mustern dem menschlichen Auge überlegen, so der Leiter der Klinik für Diagnostische Radiologie des Klinikums Johannes Haubold.

Eine Studie der Universität Nijmegen in den Niederlanden zeigt ebenfalls, dass KI-Systeme den Menschen auch in der Krebsdiagnostik übertreffen, insbesondere im zeitlichen Aspekt: Dort wurde ein Entwicklerteam mit ihren eigenen KI-Software-Lösungen einer Gruppe von Pathologen gegenübergestellt, um Krebsgewebe zu erkennen. Das beste KI-System erreichte im Ergebnis eine nahezu hundertprozentige Erkennungsgenauigkeit und war dabei deutlich schneller als ein Pathologe, der 30 Stunden benötigte, um die befallenen Proben zu erkennen. Auch an der Heidelberger Universität wird in der Dermatologie mit einem KI-System geforscht, das die Haut von Patienten scannt, um Krebs-Melanome von Muttermalen zu unterscheiden. Die Trefferquote bei einer Auswertung von über 100.000 Aufnahmen liegt bereits bei 95 Prozent.

Siemens Healthineers nutzt selbstlernende Algorithmen bei ihrer Atellica Solution für Labordiagnostik. Hier visualisiert das Drawer Vision System (DVS) jedes einzelne Probenröhrchen. So können beispielsweise Anwenderfehler im Handling der Probenröhrchen durch automatischen Abgleich mit einer mehr als 60.000 Aufnahmen umfassenden Bildbibliothek zuverlässig erkannt werden.

Ein weiteres Anwendungsbeispiel von künstlicher Intelligenz ist die Kultivierung von 3D-Zellaggregaten (Sphäroiden) in einem Bioreaktor. „Temperatur und CO2-Gehalt werden heute schon standardmäßig im Inkubator geregelt, jedoch findet eine Messung von Parametern direkt in der Zellkultur (Flüssigkeit) bisher in der Regel nicht statt. Dadurch sind keine Aussagen über den pH-Wert, den Sauerstoffgehalt oder andere für die Kultivierung relevante Werte möglich. Weiterhin erfolgt die Qualitätskontrolle der Sphäroide bisher lediglich von Zeit zu Zeit und außerhalb des Bioreaktors“, sagt Fraunhofer Innovationsmanager Velten. „Im Rahmen des Fraunhofer ZSI werden Sensoren für die direkte Integration in die Zellkulturröhrchen des Bioreaktors entwickelt. Dadurch wird eine Online-Messung verschiedener Parameter ermöglicht, die für die Herstellung von 3D-Zellaggregaten relevant sind, wie zum Beispiel Sauerstoff, pH-Wert, Glukose und Laktat. Im Sinne einer Online-Prozesskontrolle werden die Sensoren drahtlos ausgelesen und die Sensordaten direkt vor Ort und nahezu in Echtzeit von einer KI-basierten Auswertesoftware aufbereitet und analysiert.“ Eine zusätzliche kontinuierliche optische Analyse der Sphäroide, die ebenfalls KI-Methoden für die Auswertung der Kamerabilder verwendet, gibt dann Aufschluss über Größe, Form und Anzahl der Sphäroide. Dies ermöglicht laut Velten eine direkte Korrelation der Zellkulturparameter mit dem Zustand der Sphäroide. Zukünftig soll damit nicht nur eine signifikante Verbesserung der Qualitätssicherung bei der Produktion von 3D-Zellaggregaten, sondern auch eine Optimierung der Zellkultur und damit eine Erhöhung des Produktionsertrags erzielt werden.

Datenaggregation durch Swarm Learning

Eine zentrale Herausforderung bei der Anwendung von KI besteht darin, dass sie auf Daten angewiesen ist, um trainiert zu werden. In Deutschland gelten Patienten- und Gesundheitsdaten als äußerst sensibel und sind streng geschützt. Die Zusammenführung von Daten aus verschiedenen klinischen Einrichtungen, Studien oder Projekten in einer einzigen Datenbank, um damit eine KI effektiv zu trainieren, ist praktisch undurchführbar. Für das Sammeln und die Analyse von Patientendaten wurde aus diesem Grund eine alternative Lösung entwickelt. Innerhalb der enormen Datenmenge zu Symptomen von Patienten besteht die Hoffnung, Schlüsselkomponenten für innovative, maßgeschneiderte Therapieansätze zu identifizieren. „Durch das Sammeln von medizinischen Daten kann die Entwicklung neuer, besserer Therapien profitieren. Die Medizin der Zukunft wird mittels Künstlicher Intelligenz vernetzt und alle Beteiligten werden gleichermaßen davon profitieren“, sagt Prof. Joachim Schultze, Sprecher des Forschungskonsortiums und Direktor für Systemmedizin am DZNE, dem Deutschen Zentrum für Neurodegenerative Erkrankungen. „Patienten berichten ihre Symptome, wir messen noch ein paar Dinge und versuchen dann zu erkennen, auf welche Krankheit dies alles hindeuten könnte. Diesen Prozess unterfüttern wir jetzt mit sehr vielen und sehr genauen Daten. Allerdings haben wir damit so viele Daten, dass wir technische Hilfe benötigen, um die Muster zu erkennen.“

Joachim Schultze, DZNE © Frommann

Das DZNE entwickelte daher in Zusammenarbeit mit mehreren deutschen Forschungszentren ein KI-basiertes Auswertungssystem, das auf sogenanntem Swarm Learning basiert. Die KI-Technologie ermöglicht es, verteilte Datenbestände zu analysieren. „Wir haben gemeinsam mit dem IT-Unternehmen Hewlett Packard Enterprise eine Technologie entwickelt. Wir nennen sie Swarm Learning und sehen darin einen Gamechanger, was den Umgang mit Big Data, also großen Datenmengen, betrifft.“ Schultze und sein Team führten in einem spezifischen Anwendungsbereich eine Analyse von Tausenden medizinischer Datensätze durch. Hierbei handelte es sich um Röntgenaufnahmen der Lunge und molekulare Muster im Blut, die aus verschiedenen Quellen stammten. Mithilfe von Swarm Learning konnte die Künstliche Intelligenz krankhafte Veränderungen der Lunge sowie Diagnosen von Leukämie, Tuberkulose und COVID-19 durchführen. In der Zukunft könnte eine Künstliche Intelligenz, die auf diese Weise trainiert wurde, möglicherweise auch eine unterstützende Rolle bei der Analyse von Hirnscans oder Röntgenbildern übernehmen. Obwohl Ärzte nicht durch KI ersetzt werden können, stellt sie dennoch ein äußerst nützliches Werkzeug für deren tägliche Arbeit dar. Und Swarm Learning trägt dazu bei, die Leistungsfähigkeit der KI weiter zu steigern.

Wie sicher sind unsere Daten?

Neben der rechtlichen Machbarkeit aufgrund regulatorischer Grenzen gibt es ethische und gesellschaftliche Fragestellungen im Kontext von KI-Anwendungen in der Medizin. Die Verarbeitung biomedizinischer Daten mit ethischen und datenschutzrechtlichen Fragestellungen gestaltet sich nicht leicht. Daten zu sammeln und zentral zu speichern, lässt sich angesichts der gesetzlichen Regelungen zum Datenschutz meist schwer umsetzen. „Datenschutz und Vertrauen sind in der Medizin zentral. Digitale Daten sind schützenswert, das gilt insbesondere für personenbezogene Daten“, sagt Schultze. „Beim Swarm Learning sind beispielsweise die Anforderungen des Datenschutzes vollständig erfüllt, denn die eigentlichen Daten werden nicht ausgetauscht.“ Das bedeutet, die Daten werden nicht zusammengetragen, sondern bleiben jeweils lokal auf den individuellen Geräten gespeichert.

Die Bewertung von Compliance-Risiken bei KI-gestützten Systemen und Medizinprodukten erfolgt auch bei TÜV SÜD durch Experten. „Grundsätzlich ist die Begutachtung von KI in Medizinprodukten durch TÜV SÜD ein wichtiger Schritt, um die Qualität und Sicherheit solcher Produkte zu gewährleisten. TÜV SÜD ist eine der führenden Stellen für die Begutachtung von KI in Medizinprodukten und medizinischen Applikationen. Die Bewertung erfolgt anhand der Anforderungen in den jeweiligen Konformitätsbewertungsverfahren und der Anforderungen aus dem Stand der Technik“, sagt Dr. Abtin Rad, Global Director Software Product Assessment bei TÜV SÜD. So wird sichergestellt, dass die Daten, die zur Entwicklung und Validierung des KI-Modells verwendet werden, von vorbestimmter und verifizierter Qualität sind und den geltenden Datenschutzbestimmungen entsprechen.

Dr. Abtin Rad, TÜV SÜD 

KI im Compliance Monitoring

Compliance Monitoring, also die Überwachung und Einhaltung regulatorischer Standards, ist enorm wichtig in stark regulierten Bereichen wie der Medizintechnik. Künstliche Intelligenz kann unter Umständen auch diesen Prozess zuverlässiger gestalten. Durch den Einsatz von KI-Algorithmen können Unternehmen kontinuierlich Daten oder Dokumente analysieren und Muster identifizieren, um potenzielle Verstöße zu erkennen.

Das Unternehmen compliance.ai hat beispielsweise eine Lösung für die Einhaltung von Vorschriften entwickelt, bei der speziell entwickelte KI-Modelle eingesetzt werden, um das regulatorische Umfeld automatisch auf relevante Änderungen zu überwachen und diese mit Ihren internen Richtlinien abzugleichen. Das System stellt sicher, dass relevante Vorschriften und Anforderungen zeitnah verfolgt werden sowie dass darüber berichtet wird. Ihre Software ist darauf ausgelegt, Risiken zu minimieren und Kosten zu senken, da regulatorische Aktualisierungen damit automatisiert überwacht werden.

Dr. Abtin Rad vom TÜV SÜD, einer Stelle für die Begutachtung von KI in Medizinprodukten und medizinischen Applikationen ist, widerspricht: „Unserer Ansicht nach ist es nicht zielführend, ein autonomes System durch ein anderes autonomes System zu bewerten oder zu prüfen.“ Hier erfolgt die Bewertung von Compliance-Risiken durch Experten.

Ergänzung oder Ersatz für Ärzte?

Der Einsatz von KI in der Medizin kann bislang nicht als Ersatz für Ärzte gesehen werden, sondern als unterstützendes Werkzeug, das ärztliche Tätigkeiten verbessert und ergänzt. Durch eine gezielte Integration von KI-Systemen können die Effizienz und Genauigkeit medizinischer Diagnosen und Therapien gesteigert werden, wodurch letztendlich die Qualität der Patientenversorgung verbessert wird.

Christopher Boss, MedtecLIVE GmbH © NürnbergMesse

Die bevorstehende MedtecLIVE, die vom 18. bis zum 20. Juni 2024 in Stuttgart stattfindet, legt ebenfalls einen Schwerpunkt auf Künstliche Intelligenz und Digitalisierung. „Wir setzen auf der kommenden Messe einen starken Fokus auf das zukunftsrelevante Thema der KI in der Medizintechnik. In einer sich stetig weiterentwickelnden Welt ist es von entscheidender Bedeutung, dass wir die neuesten Fortschritte in diesem Bereich beleuchten. Unsere Messe wird daher eine Plattform bieten, um die bahnbrechenden Entwicklungen und die zukunftsweisende Bedeutung von Künstlicher Intelligenz in der Medizintechnik zu erkunden“, sagt Christopher Boss, Geschäftsführer der MedtecLIVE GmbH und Executive Director der Veranstaltung.