KI-Assistenten für Ärzte: Gibt es bald weniger Fehldiagnosen?

KI ist heute in vielen Bereichen der Medizin dem Menschen überlegen, kann große Datenmengen schneller und präziser auswerten, ist weniger fehleranfällig und ermüdet nicht. Doch selbst sehr erfolgreiche Anwendungen haben es bisher kaum aus dem Labor in die Praxis geschafft. Forscher arbeiten weiter daran, die KI zu verbessern. Über die Nutzung und ihre Grenzen wird indes heftig debattiert.

Alle Folgen der Reihe „3 auf 1“ finden Sie hier.

KI dürfte das Problem kaum lösen

Jede zehnte Diagnose ist falsch, stellte die US-Akademie der Medizin 2015 fest. Im Mittel wird jeder im Laufe seines Lebens eine relevante Fehldiagnose erhalten. Dass bei allein 69.000 Diagnosen in der internationalen Klassifikation von Krankheiten KI die Diagnosequalität verbessern kann, bezweifle ich.

Zwar erregt KI immer wieder Aufsehen durch gute Leistungen bei Bilddaten, doch haben es selbst diese Anwendungen bisher kaum aus kontrollierten Laborversuchen in die klinische Praxis geschafft.

Der Großteil medizinischer Daten ist zudem erheblich unstrukturierter. Es fehlen brauchbare Datensätze, um KI zu trainieren, Forschungsgelder für klinische Studien, um ihre Wirksamkeit zu untersuchen, und nicht zuletzt die Akzeptanz bei Patienten und Ärzten.

Fehldiagnosen werden durch unspezifische Beschwerden oder fehlender ärztliche Zusammenarbeit begünstigt.

Wolf Hautz, Mediziner an der Universitätsklinik für Notfallmedizin Inselspital in Bern

Befasst man sich zudem näher mit Faktoren, die Fehldiagnosen begünstigen, wie unspezifischen Beschwerden oder fehlender ärztlicher Zusammenarbeit, wird schnell deutlich, dass KI kaum ein geeignetes Instrument zur Lösung des Problems sein dürfte.

KI hilft – Ärzte bleiben die Entscheider

Ich könnte die Frage mit einem einfachen „Ja“ beantworten. Ich möchte aber noch einige wesentliche Feststellungen hinzufügen: Erstens: KI ist schon heute in vielen Bereichen der Medizin dem Menschen überlegen. Sie kann große Datenmengen schneller und präziser auswerten, ist weniger fehleranfällig und ermüdet nicht.

Zweitens: KI und Digitalisierung bedeuten keine Entmenschlichung der Medizin, sondern im Gegenteil mehr Empathie und Zuwendung, weil die Effizienz gesteigert wird. Dies bedeutet mehr Zeitfenster für die Arbeit mit den Patienten, mehr Raum für Kommunikation und Zuwendung.

Und drittens schließlich: KI kann, soll und wird den Arzt in seiner originären Funktion nicht ersetzen. Sie ist der Unterstützer bei der Interpretation von Daten und der Wegbereiter für innovative, personalisierte Therapien.

KI bedeutet keine Entmenschlichung der Medizin, sondern im Gegenteil mehr Empathie und Zuwendung für die Patienten.

Jochen A. Werner, Ärztlicher Direktor und Vorstandsvorsitzender der Universitätsmedizin Essen

Aber der Arzt verbleibt als letztendlicher Entscheider der medizinischen Behandlung und als persönliche Bezugsperson der Patienten im Fahrersitz.

Was, wenn die KI „A“ vorschlägt, und der Arzt „B“ diagnostiziert?

KI in der Medizin lässt hoffen auf präzisere Diagnosen. Ist so der Unsicherheitsfaktor Mensch als Quelle von Behandlungsfehlern zu beherrschen? Das Potenzial scheint enorm. Was aber, wenn die KI „A“ vorschlägt und der Arzt „B“ diagnostiziert, die KI aber doch richtig lag? Die Verantwortung liegt letztlich beim Arzt.

Es ist absehbar, dass auch Ärzte KI nutzen – medizinisch verantwortlich ist der Mensch. 

Roland Wiring, Fachanwalt für Medizinrecht und Partner bei der Kanzlei CMS Hasche Sigle

Aus rechtlicher Sicht ist zu prüfen, ob der medizinische Standard gewahrt wurde. Das ist eine Einzelfallabwägung. Hier kann die Nutzung von KI perspektivisch den Maßstab verschieben. Sich gegen eine KI-Empfehlung zu wenden, diese zu ignorieren oder eine solche nicht einzuholen, kann sich als haftungsbegründend herausstellen. Doch die Weltgesundheitsorganisation warnte vor Fehldiagnosen durch KI.

Zur Vermeidung solcher Fehlerquellen soll eine neue EU-Verordnung die Entwicklung und den Einsatz von KI-Systemen stärker regeln. Deren Ziel muss sein, eine angemessene Balance zwischen den Chancen und Risiken zu finden. Es ist absehbar, dass auch Ärzte KI nutzen – medizinisch verantwortlich ist der Mensch.