Der künstliche Intelligenz Podcast

Von der Mustererkennung zur klinischen Entscheidung 

Künstliche Intelligenz entwickelt sich zu einem zunehmend wichtigen Werkzeug in der medizinischen Diagnostik. Systeme auf Basis von Machine Learning und Deep Learning können medizinische Bilder analysieren, Labor- und Patientendaten auswerten, diagnostische Wahrscheinlichkeiten berechnen oder Ärzte bei der Erstellung von Differenzialdiagnosen unterstützen. Mit dem Aufkommen leistungsfähiger Large Language Models hat sich das Anwendungsspektrum zusätzlich erweitert. Moderne Systeme können medizinische Informationen in natürlicher Sprache verarbeiten und daraus diagnostische Hypothesen oder Entscheidungshilfen ableiten. Die Weltgesundheitsorganisation (WHO) sieht bereits heute Anwendungen von KI unter anderem in Diagnostik und klinischer Versorgung. (Weltgesundheitsorganisation) 

Dabei ist zwischen verschiedenen Formen medizinischer KI zu unterscheiden. Ein spezialisiertes System zur Erkennung auffälliger Strukturen in einer Röntgenaufnahme erfüllt eine andere Aufgabe als ein Sprachmodell, das aus einer Krankengeschichte mögliche Diagnosen ableitet. Ebenso unterscheiden sich Systeme zur Früherkennung, Triage, Risikobewertung, Prognose und Therapieunterstützung erheblich. Die FDA weist deshalb darauf hin, dass unterschiedliche medizinische Anwendungen unterschiedliche Bewertungsmaßstäbe und Referenzstandards erfordern. (U.S. Food and Drug Administration) 

Die zentrale Frage lautet daher nicht mehr ausschließlich, ob eine KI eine Diagnose erstellen kann. Entscheidend ist vielmehr, ob ihre Ergebnisse unter realen klinischen Bedingungen zuverlässig, nachvollziehbar und sicher genug sind, um in medizinische Entscheidungen einbezogen zu werden. 

Die Validierung beginnt mit der richtigen Fragestellung 

Die Leistungsfähigkeit eines KI-Systems lässt sich nicht sinnvoll anhand einer einzigen Kennzahl beurteilen. Ein Modell kann beispielsweise bei der Erkennung einer bestimmten Erkrankung eine hohe Trefferquote erreichen, gleichzeitig aber bei bestimmten Patientengruppen deutlich schlechter funktionieren. Auch die klinische Bedeutung eines Fehlers hängt von der jeweiligen Anwendung ab. Ein System, das Patienten mit hoher Wahrscheinlichkeit einer weiteren Untersuchung zuführt, stellt andere Anforderungen als ein System, das eine lebenswichtige Diagnose ausschließt. 

Deshalb muss zunächst präzise definiert werden, wofür ein System eingesetzt werden soll. Die sogenannte Intended Use beschreibt den vorgesehenen Zweck und bildet eine wesentliche Grundlage für die spätere Bewertung. Die WHO nennt die klare Festlegung des vorgesehenen Einsatzes, externe Validierung, Datenqualität, Dokumentation und Risikomanagement ausdrücklich als wichtige Elemente einer verantwortungsvollen Regulierung von KI im Gesundheitswesen. (Weltgesundheitsorganisation) 

Besonders wichtig ist die Trennung zwischen Entwicklung und Validierung. Ein Modell kann auf einem großen Datensatz hervorragende Ergebnisse erzielen, ohne deshalb automatisch in einer anderen Klinik oder bei einer anderen Bevölkerungsgruppe ebenso zuverlässig zu funktionieren. Unterschiede bei Geräten, Untersuchungsbedingungen, Patientengruppen, Dokumentationsweisen oder Versorgungssystemen können die Ergebnisse beeinflussen. 

Externe Validierung ist deshalb ein wesentlicher Bestandteil der Vertrauensbildung. Sie untersucht, ob die Leistungsfähigkeit eines Modells auch außerhalb der Daten gegeben ist, mit denen es entwickelt oder optimiert wurde. Gerade bei medizinischer KI ist diese Übertragbarkeit entscheidend, weil ein System nicht nur unter idealisierten Forschungsbedingungen funktionieren muss, sondern in einer heterogenen klinischen Realität. 

Genauigkeit ist nicht dasselbe wie klinischer Nutzen 

Die Diskussion über KI-Diagnostik konzentriert sich häufig auf die Frage, ob ein Algorithmus besser als ein Mensch diagnostizieren kann. Diese Betrachtung greift jedoch zu kurz. In der Medizin zählt nicht allein die diagnostische Genauigkeit eines einzelnen Systems, sondern die Frage, ob seine Verwendung tatsächlich zu besseren Entscheidungen und besseren Ergebnissen für Patienten führt. 

Ein Modell kann beispielsweise eine Krankheit auf Bildern sehr zuverlässig erkennen, ohne dadurch automatisch die Behandlung zu verbessern. Umgekehrt kann eine KI mit einer Ärztin oder einem Arzt besonders wertvoll sein, obwohl sie selbst nicht in jedem Fall die beste Diagnose liefert. Sie kann beispielsweise zusätzliche Differenzialdiagnosen vorschlagen, relevante Informationen hervorheben oder auf Zusammenhänge aufmerksam machen, die andernfalls übersehen werden könnten. 

Eine 2025 in Nature Medicine veröffentlichte randomisierte Studie untersuchte den Einsatz von GPT-4 zur Unterstützung von Ärzten bei komplexen klinischen Managemententscheidungen. In der simulierten Untersuchung erzielten Ärzte mit GPT-4-Unterstützung höhere Ergebnisse als Ärzte, die ausschließlich konventionelle Informationsquellen verwendeten. Die Autoren betonten zugleich, dass eine Validierung unter realen klinischen Bedingungen erforderlich ist. (Nature) 

Das Ergebnis verdeutlicht ein grundsätzliches Problem der KI-Evaluation: Ein System kann in einem kontrollierten Test sehr leistungsfähig sein, während sein tatsächlicher Nutzen im klinischen Alltag von der Zusammenarbeit zwischen Mensch und Maschine abhängt. Die Qualität dieser Zusammenarbeit kann wiederum davon beeinflusst werden, wie Informationen präsentiert werden, wie sicher Ärzte im Umgang mit dem System sind und ob sie seine Ergebnisse kritisch überprüfen. 

Warum Tests mit Fallbeispielen nicht genügen 

Viele Untersuchungen medizinischer KI basieren auf historischen Patientendaten oder standardisierten Fallbeschreibungen. Solche Tests sind wichtig, bilden aber die klinische Realität nur teilweise ab. Im medizinischen Alltag entstehen Diagnosen häufig schrittweise. Ärzte erhalten Informationen nacheinander, stellen Rückfragen, entscheiden über weitere Untersuchungen und verändern ihre Hypothesen auf Grundlage neuer Befunde. 

Large Language Models können bei solchen Aufgaben beeindruckende Leistungen zeigen. Forschungsarbeiten zu diagnostischen Dialogsystemen haben beispielsweise untersucht, wie Sprachmodelle Anamnesegespräche führen und daraus diagnostische Hypothesen entwickeln. Die Ergebnisse solcher Studien sind wissenschaftlich interessant, müssen jedoch vorsichtig interpretiert werden, wenn die Untersuchungsbedingungen nicht vollständig der tatsächlichen Versorgung entsprechen. (arXiv) 

Eine weitere Herausforderung besteht darin, dass eine richtige Antwort auf eine Fallfrage nicht automatisch beweist, dass ein System im klinischen Alltag zuverlässig arbeitet. Ein reales medizinisches Umfeld umfasst unvollständige Informationen, widersprüchliche Befunde, Kommunikationsprobleme, Zeitdruck und Situationen, die im Trainingsmaterial möglicherweise nur unzureichend vertreten sind. 

Aus diesem Grund gewinnt die Entwicklung besserer Evaluationsmethoden an Bedeutung. Die 2024 veröffentlichte TRIPOD+AI-Leitlinie aktualisierte die Standards für die transparente Berichterstattung über klinische Vorhersagemodelle, die sowohl klassische statistische Methoden als auch Machine-Learning-Verfahren verwenden. Sie soll unter anderem eine bessere Beurteilung von Qualität, Verzerrungen und Übertragbarkeit ermöglichen. (BMJ) 

Das Problem der Daten 

Die Qualität medizinischer KI hängt wesentlich von den Daten ab, mit denen sie entwickelt und überprüft wird. Medizinische Datensätze sind jedoch nicht neutral. Sie können regionale Unterschiede, unterschiedliche Behandlungspfade, Veränderungen in der Dokumentation oder eine ungleiche Repräsentation bestimmter Patientengruppen enthalten. 

Ein Algorithmus kann solche Muster übernehmen, ohne dass sie medizinisch sinnvoll sind. Besonders problematisch wird dies, wenn ein Modell mit Merkmalen arbeitet, die in den Entwicklungsdaten indirekt mit einer Diagnose verbunden waren, im klinischen Alltag aber keine zuverlässige Ursache-Wirkungs-Beziehung darstellen. 

Auch die Datenverteilung kann sich im Laufe der Zeit verändern. Neue Untersuchungsverfahren, andere Geräte, veränderte Therapieempfehlungen oder demografische Veränderungen können dazu führen, dass die Bedingungen nach der Einführung eines Systems nicht mehr denen entsprechen, unter denen es ursprünglich trainiert wurde. 

Damit endet die Validierung eines KI-Systems nicht zwangsläufig mit seiner Zulassung oder Einführung. Eine verantwortungsvolle Nutzung erfordert vielmehr eine kontinuierliche Beobachtung der tatsächlichen Leistung. Die FDA beschäftigt sich deshalb ausdrücklich mit Methoden zur Bewertung von KI-Systemen über deren Lebenszyklus hinweg und arbeitet unter anderem an Fragen der Leistungsbewertung und Unsicherheitsquantifizierung. (U.S. Food and Drug Administration) 

Bias und unterschiedliche Patientengruppen 

Ein besonders sensibles Thema ist die Frage, ob KI-Systeme für verschiedene Bevölkerungsgruppen gleichermaßen zuverlässig funktionieren. Wenn bestimmte Gruppen in den Entwicklungsdaten unterrepräsentiert sind oder sich die medizinischen Rahmenbedingungen zwischen den Datensätzen und der späteren Anwendung unterscheiden, kann die Leistungsfähigkeit eines Modells variieren. 

Das Problem ist nicht ausschließlich technischer Natur. Verzerrungen können bereits in der medizinischen Datenerfassung entstehen. Wenn bestimmte Krankheiten bei bestimmten Gruppen historisch häufiger oder seltener diagnostiziert wurden, können entsprechende Muster in den Daten landen und anschließend von einem Algorithmus reproduziert werden. 

Die WHO betrachtet Datenqualität, Fairness, Transparenz und Schutz vor Diskriminierung deshalb als zentrale Bestandteile einer verantwortungsvollen KI-Nutzung im Gesundheitswesen. Sie warnt insbesondere davor, unzureichend geprüfte Systeme zu schnell in die Versorgung zu übernehmen. (Weltgesundheitsorganisation) 

Für das Vertrauen der Patienten ist diese Frage von erheblicher Bedeutung. Ein System muss nicht nur insgesamt leistungsfähig sein. Es muss auch ausreichend bekannt sein, unter welchen Bedingungen seine Ergebnisse zuverlässig sind und wo seine Grenzen liegen. 

Die besondere Herausforderung generativer KI 

Mit generativer KI hat sich die Diskussion über medizinische Diagnostik nochmals verändert. Klassische diagnostische Algorithmen sind häufig für eine klar definierte Aufgabe entwickelt. Ein generatives Sprachmodell kann dagegen auf eine Vielzahl von Fragen reagieren und seine Antworten sprachlich überzeugend formulieren. 

Gerade diese Fähigkeit erzeugt ein besonderes Vertrauensproblem. Eine Antwort kann fachlich plausibel klingen, obwohl sie sachlich falsch oder unvollständig ist. Die WHO weist ausdrücklich darauf hin, dass Large Language Models überzeugend wirkende, aber falsche oder irreführende medizinische Aussagen erzeugen können. (Weltgesundheitsorganisation) 

Bei einer klassischen Software kann eine falsche Ausgabe möglicherweise leichter als technischer Fehler erkannt werden. Bei einem Sprachmodell besteht dagegen die Gefahr, dass sprachliche Sicherheit mit tatsächlicher Zuverlässigkeit verwechselt wird. Ein System, das eine Diagnose mit großer sprachlicher Überzeugung präsentiert, verfügt dadurch nicht automatisch über eine entsprechend hohe diagnostische Sicherheit. 

Deshalb wird bei generativer KI die Darstellung von Unsicherheit besonders wichtig. Nutzer müssen erkennen können, ob eine Aussage auf belastbaren Informationen basiert, welche Daten berücksichtigt wurden und ob weitere Untersuchungen notwendig sind. Die bloße Fähigkeit eines Modells, medizinische Sprache überzeugend zu imitieren, darf nicht mit klinischer Evidenz gleichgesetzt werden. 

Vertrauen entsteht nicht durch eine hohe Trefferquote allein 

Vertrauen in medizinische KI ist eine komplexe Größe. Patienten und medizinisches Personal müssen nicht nur wissen, wie gut ein System im Durchschnitt funktioniert. Sie benötigen auch Informationen darüber, wann das System eingesetzt werden darf, welche Daten es verarbeitet und wer für die daraus entstehenden Entscheidungen verantwortlich ist. 

Die WHO betont Transparenz, Erklärbarkeit, Verantwortlichkeit, menschliche Aufsicht, Gleichbehandlung und Schutz der Autonomie als wesentliche Prinzipien für KI im Gesundheitswesen. (Weltgesundheitsorganisation) 

Dabei bedeutet Transparenz nicht zwangsläufig, dass jeder Nutzer den technischen Aufbau eines neuronalen Netzes verstehen muss. Entscheidend ist vielmehr eine angemessene Transparenz über Zweck, Leistungsfähigkeit, Grenzen, Datenbasis und Einsatzbedingungen. Ein Arzt muss beispielsweise beurteilen können, ob eine KI-Empfehlung in einer konkreten Situation relevant ist. Ein Patient wiederum muss nachvollziehen können, welche Rolle KI bei seiner Behandlung spielt. 

Vertrauen sollte deshalb nicht mit blindem Vertrauen verwechselt werden. Ein gut validiertes System sollte nicht dazu führen, dass medizinisches Personal seine eigenen Fähigkeiten oder seine kritische Bewertung vollständig zurückstellt. Ziel ist vielmehr ein begründetes Vertrauen, das auf überprüfbaren Leistungsdaten und klaren Verantwortlichkeiten beruht. 

Die Gefahr der Automatisierungsverzerrung 

Die Einführung von KI verändert nicht nur die Maschine, sondern auch das Verhalten der Menschen, die mit ihr arbeiten. Wenn ein medizinisches System eine Empfehlung ausgibt, kann ein Arzt dazu neigen, dieser Empfehlung besonders großes Gewicht beizumessen. Umgekehrt kann ein übermäßig skeptischer Umgang dazu führen, dass sinnvolle Hinweise ungenutzt bleiben. 

Damit entsteht eine neue Aufgabe für die medizinische Ausbildung. Fachkräfte müssen nicht nur lernen, medizinische Informationen zu beurteilen, sondern auch die Qualität algorithmischer Empfehlungen einzuschätzen. Dazu gehört das Verständnis dafür, dass ein Modell statistische Zusammenhänge verarbeitet und keine menschliche klinische Verantwortung übernimmt. 

Die Studie zu GPT-4 und ärztlicher Entscheidungsunterstützung zeigt zugleich, dass die Kombination aus Mensch und KI nicht automatisch bessere Ergebnisse garantiert. Der konkrete Nutzen hängt davon ab, wie die Technologie eingesetzt wird und wie Menschen mit ihren Ergebnissen umgehen. (Nature) 

Die zukünftige Qualität medizinischer KI wird daher nicht allein von immer leistungsfähigeren Modellen abhängen. Ebenso wichtig werden Benutzeroberflächen, Warnmechanismen, Schulung, klinische Prozesse und organisatorische Regeln sein. 

Regulierung wird Teil der technischen Entwicklung 

Mit zunehmender Bedeutung medizinischer KI wächst auch die regulatorische Bedeutung der Systeme. In den Vereinigten Staaten führt die FDA eine Liste KI-gestützter Medizinprodukte, die für den Einsatz zugelassen beziehungsweise autorisiert wurden. Die Behörde beschreibt dabei die Prüfung von Sicherheit und Wirksamkeit entsprechend dem vorgesehenen Einsatz und den technischen Eigenschaften des jeweiligen Produkts. (U.S. Food and Drug Administration) 

Auch in der Europäischen Union verändert der AI Act den regulatorischen Rahmen. KI-Systeme, die als Sicherheitskomponenten bestimmter regulierter Produkte eingesetzt werden oder selbst entsprechende Produkte darstellen und unter die einschlägigen europäischen Produktvorschriften fallen, können als Hochrisiko-KI eingestuft werden. Der Rechtsrahmen nennt ausdrücklich Medizinprodukte und In-vitro-Diagnostika im entsprechenden Zusammenhang. (EUR-Lex) 

Für medizinische KI bedeutet dies, dass technische Innovation zunehmend mit Anforderungen an Risikomanagement, Dokumentation, Transparenz, Überwachung und Konformität verbunden ist. Regulierung kann Entwicklungsprozesse aufwendiger machen, dient aber zugleich dazu, die Voraussetzungen für einen sicheren Einsatz in besonders sensiblen Bereichen festzulegen. 

Die Herausforderung besteht darin, einen angemessenen Ausgleich zu finden. Zu schwache Regulierung kann Patienten Risiken aussetzen und das Vertrauen in die gesamte Technologie beschädigen. Zu starre oder schlecht angepasste Anforderungen könnten dagegen Innovationen erschweren und den Zugang zu potenziell nützlichen Anwendungen verzögern. 

Die Rolle der menschlichen Verantwortung 

Eine der wichtigsten Fragen der KI-Diagnostik lautet letztlich, wer für eine medizinische Entscheidung verantwortlich ist. Ein Algorithmus kann eine Wahrscheinlichkeit berechnen oder eine Empfehlung ausgeben. Die medizinische Entscheidung findet jedoch in einem rechtlichen, organisatorischen und ethischen Kontext statt. 

Die WHO fordert deshalb klare Verantwortlichkeiten und menschliche Aufsicht. (Weltgesundheitsorganisation) In der Praxis bedeutet dies, dass die Einführung einer KI nicht einfach mit der Installation einer Software abgeschlossen ist. Kliniken und andere Gesundheitseinrichtungen müssen festlegen, wie Ergebnisse geprüft, dokumentiert und in bestehende Entscheidungsprozesse integriert werden. 

Besonders relevant wird diese Frage bei Systemen, die kontinuierlich weiterentwickelt oder aktualisiert werden. Ein Modell kann nach einer technischen Veränderung anders reagieren als zuvor. Die FDA beschäftigt sich deshalb auch mit sogenannten Predetermined Change Control Plans, die geplante Änderungen an KI-gestützten Medizinprodukten innerhalb eines regulatorisch kontrollierten Rahmens ermöglichen sollen. (U.S. Food and Drug Administration) 

Die Vorstellung einer einmalig geprüften und anschließend unveränderten Software passt damit immer weniger zu dynamischen KI-Systemen. Validierung wird zunehmend zu einem fortlaufenden Prozess. 

Datenschutz als Voraussetzung für Akzeptanz 

Medizinische Daten gehören zu den sensibelsten Informationen überhaupt. KI-Anwendungen benötigen häufig umfangreiche Datenmengen, um Modelle zu entwickeln, zu trainieren, zu überprüfen oder im klinischen Alltag einzusetzen. Damit entstehen erhebliche Anforderungen an Datenschutz und Datensicherheit. 

Besonders bei generativer KI ist Vorsicht erforderlich, weil Nutzer medizinische Informationen in dialogorientierte Systeme eingeben können. Die WHO weist unter anderem auf Fragen der Einwilligung, des Datenschutzes und der möglichen Verarbeitung sensibler Gesundheitsinformationen hin. (Weltgesundheitsorganisation) 

Vertrauenswürdige medizinische KI muss daher nicht nur medizinisch zuverlässig sein. Sie muss auch angemessen mit den Daten umgehen, die für ihre Funktion benötigt werden. Technische Sicherheit, Zugriffskontrollen, Datenminimierung und klare Verantwortlichkeiten sind damit keine ergänzenden Eigenschaften, sondern Bestandteile der Vertrauenswürdigkeit eines Systems. 

Was sich in den kommenden Jahren verändern könnte 

Die Entwicklung deutet darauf hin, dass medizinische KI zunehmend von einzelnen Spezialanwendungen hin zu umfassenderen Assistenzsystemen führen könnte. Statt ausschließlich ein Bild zu klassifizieren, könnten zukünftige Systeme unterschiedliche Informationsquellen miteinander verbinden und Ärzte bei mehreren Schritten des diagnostischen Prozesses unterstützen. 

Large Language Models und multimodale Modelle sind hierfür besonders interessant, weil sie verschiedene Arten von Informationen verarbeiten können. Die WHO beschreibt Large Multimodal Models als Systeme, die unterschiedliche Datentypen aufnehmen und vielfältige Ausgaben erzeugen können, und sieht mögliche Anwendungen unter anderem in klinischer Versorgung, Forschung und Arzneimittelentwicklung. Gleichzeitig betont sie die noch bestehenden Unsicherheiten und Risiken. (Weltgesundheitsorganisation) 

Ein wichtiger Entwicklungsschritt wird die Verlagerung von statischen Tests hin zu realitätsnäheren Evaluationen sein. Statt lediglich zu prüfen, ob ein Modell eine Diagnose aus einer abgeschlossenen Fallbeschreibung erkennt, wird stärker untersucht werden müssen, wie es mit unvollständigen Informationen, neuen Befunden, Unsicherheit und tatsächlichen klinischen Arbeitsabläufen umgeht. 

Auch die Zusammenarbeit mehrerer Systeme könnte an Bedeutung gewinnen. Ein KI-System könnte beispielsweise medizinische Informationen strukturieren, ein anderes Bilder analysieren und ein weiteres Modell mögliche Differenzialdiagnosen formulieren. Ob solche komplexen Systeme tatsächlich zuverlässiger sind, muss jedoch jeweils empirisch geprüft werden. Mehr KI bedeutet nicht automatisch mehr Sicherheit. 

Von der KI als Werkzeug zur KI als klinischem Partner? 

Die langfristige Entwicklung könnte dazu führen, dass KI nicht mehr nur als passives Analysewerkzeug betrachtet wird. Systeme könnten zunehmend aktiv relevante Informationen identifizieren, Rückfragen vorschlagen, Untersuchungen priorisieren oder Ärzte auf mögliche Widersprüche zwischen Befunden aufmerksam machen. 

Damit würde sich allerdings auch die Verantwortung für die Systemgestaltung erhöhen. Je stärker eine KI in den klinischen Entscheidungsprozess eingebunden ist, desto wichtiger wird die Frage, ob ihre Vorschläge transparent, überprüfbar und angemessen begrenzt sind. 

Eine solche Entwicklung muss nicht zwangsläufig zur Verdrängung medizinischer Fachkräfte führen. Vielmehr spricht vieles dafür, dass sich die Aufgaben verändern werden. Ärzte könnten weniger Zeit mit der Suche und Strukturierung großer Informationsmengen verbringen und mehr Zeit für die Interpretation, Kommunikation und gemeinsame Entscheidungsfindung mit Patienten aufwenden. 

Ob dieser Wandel tatsächlich eintritt und in welchem Umfang, ist derzeit nicht abschließend vorhersehbar. Die bisherigen Forschungsergebnisse zeigen Potenzial, erlauben aber noch keine pauschale Aussage darüber, dass KI in der klinischen Diagnostik generell besser oder sicherer als menschliche Expertise ist. 

Die entscheidende Messgröße bleibt der Patientennutzen 

Die technische Entwicklung medizinischer KI ist schnell. Die entscheidende Herausforderung besteht jedoch darin, Geschwindigkeit und Sicherheit miteinander zu verbinden. Ein leistungsfähiges Modell ist noch keine medizinisch verantwortbare Anwendung. Erst die Kombination aus geeigneten Daten, externer Validierung, klinischer Evaluation, transparenter Kommunikation, Datenschutz, Regulierung und menschlicher Verantwortung schafft die Voraussetzungen für einen belastbaren Einsatz. 

Die WHO fordert ausdrücklich eine evidenzbasierte Einführung von KI in Gesundheitssysteme und warnt vor einer vorschnellen Übernahme unzureichend geprüfter Technologien. (Weltgesundheitsorganisation) Auch regulatorische Behörden und wissenschaftliche Fachgesellschaften arbeiten zunehmend daran, Bewertungsmethoden an die Besonderheiten lernender und generativer Systeme anzupassen. (U.S. Food and Drug Administration) 

Die zentrale Frage der kommenden Jahre wird daher weniger lauten, ob künstliche Intelligenz diagnostische Aufgaben übernehmen kann. Viel wichtiger ist, unter welchen Bedingungen sie dies zuverlässig tun kann, wann ihre Ergebnisse überprüft werden müssen und wie Mensch und Maschine gemeinsam die bestmögliche Entscheidung erreichen. 

Fazit: Vertrauen muss überprüfbar sein 

KI-gestützte Diagnosen gehören zu den medizinischen Anwendungen künstlicher Intelligenz mit besonders großem Potenzial, aber auch mit besonders hohen Anforderungen an Sicherheit und Nachweisbarkeit. Machine Learning und Deep Learning können Muster in medizinischen Daten erkennen, die für Menschen schwer oder nur mit erheblichem Zeitaufwand auszuwerten sind. Generative KI eröffnet darüber hinaus neue Möglichkeiten bei der Verarbeitung komplexer medizinischer Informationen und bei der Unterstützung klinischer Entscheidungsprozesse. (Weltgesundheitsorganisation) 

Gleichzeitig zeigen die bisherigen Erkenntnisse, dass beeindruckende Ergebnisse in Forschungsumgebungen nicht automatisch einen sicheren Einsatz in der realen Versorgung garantieren. Unterschiede zwischen Datensätzen und Patientengruppen, mögliche Verzerrungen, fehlende externe Validierung, überzeugend formulierte Fehler und die Reaktion menschlicher Anwender auf KI-Empfehlungen bleiben zentrale Herausforderungen. 

Die Zukunft der medizinischen KI wird deshalb nicht allein durch die Leistungsfähigkeit größerer Modelle bestimmt. Entscheidend wird sein, ob es gelingt, zuverlässige Prüfverfahren, kontinuierliche Überwachung, transparente Systeme und klare Verantwortlichkeiten mit der technischen Entwicklung zu verbinden. 

Vertrauen in KI sollte dabei weder durch Marketing noch durch spektakuläre Einzelresultate entstehen. Es muss auf überprüfbaren wissenschaftlichen Erkenntnissen, nachvollziehbaren Leistungsdaten und klar definierten Grenzen beruhen. Erst wenn diese Voraussetzungen erfüllt sind, kann KI von einem faszinierenden technologischen Werkzeug zu einem verlässlich integrierten Bestandteil moderner medizinischer Versorgung werden.