Page 7 - xpress_Ausgabe 24.4

KOMPAK T

KI-CHATBOTS I SELTENE ERKRANKUNGEN
Wenig Vertrauen in KI-Diagnose Diagnoseunterstützung
P atientinnen und Patienten kommen Arzt oder einer Ärztin stammen. Die S Deutschland vier Millionen
chätzungen zufolge leiden in
zweite Gruppe ging davon aus, dass die
zunehmend bereits mit einer Dia-
gnose in die Sprechstunde, die sie Informationen von einem KI-gestützten Menschen an einer Seltenen Erkran-
selbst mit einem großen Sprach- Chatbot stammen. Und die kung. Für Ärztinnen und Ärzte sind
modell wie ChatGPT erstellt ha- dritte Gruppe bekam gesagt, diese Krankheiten herausfordernd,
ben. Aber ist das Vertrauen in dass ein Arzt oder eine Ärztin, da sie komplex und sehr unter-
die medizinischen unterstützt von einer KI, den schiedlich sind. Weil sie so selten
Ratschläge einer medizinischen Rat sind, gibt es vergleichsweise weni-
künstlichen Intelli- erteilt hat. Das Er- ge Daten und Experten. Die verfüg-
genz (KI) tatsächlich gebnis war eindeu- baren digitalen Lösungen bieten nur
groß? Forscher der tig: Menschen ver- Verdachtsdiagnosen, keine weitere
Julius-Maximilians- trauen einem medi- Unterstützung. Im Forschungspro-
Universität Würzburg zinischen Rat weni- jekt SATURN (Smartes Arztportal für
und von Pfizer haben das in ei- ger, wenn sie wissen, dass Betroffene mit unklarer Erkran-
ner Studie mit über 2 000 er von einer KI erstellt
Probandinnen und Probanden wurde oder eine KI daran
untersucht. Die Teilneh- beteiligt war. Auch bei der
merinnen und Teilnehmer er- Empathie schnitten die bei-
hielten die identischen medizini- den KI-Varianten schlechter
schen Ratschläge, die sie auf Ver- ab. Nur bei der Verständ-
lässlichkeit, Verständlichkeit und lichkeit war die KI der ärzt-
Empathie bewerten sollten. Anschlie- lichen Aussage ebenbürtig. Offenbar
ßend wurden sie in drei Gruppen einge- haben die Menschen in diesem Punkt
teilt. Der ersten Gruppe wurde mitge- keine Vorbehalte gegen KI.<
teilt, dass die Ratschläge von einem UNI-WUERZBURG.DE

SELTENE ERKRANKUNG: Ärztinnen und Ärzte sollen mit nach-
vollziehbaren KI-Diagnosen unterstützt werden.
KI-CHATBOTS II kung) entwickeln Forscherinnen und
Ärzte sind (noch) die besseren Diagnostiker Forscher verschiedener wissen-
schaftlicher Einrichtungen ein Por-
G roße Sprachmodelle sind schlech- x.press).Die Fallbeschreibung enthielt tal, das mittels künstlicher Intelli-
genz (KI) nachvollziehbare und trans-
te Diagnostiker, obwohl sie das
parente Diagnosevorschläge er-
auch jeweils eine von vier Diagnosen
medizinische Examen problemlos be- und einen Behandlungsplan. Keines der stellt. Hierbei kommen unterschied-
stehen würden. Zu diesem Resultat kom- getesteten Programme forderte alle liche Ansätze zum Einsatz: Eine Mög-
men Forscherinnen und For- für eine Diagnose erforder- lichkeit besteht in der Verwendung
scher der Technischen Uni- lichen Untersuchungen an. von regelbasierten Modellen auf Ba-
versität München, nachdem KI-Trefferquote Je mehr Informationen zu sis von Wissensquellen wie medizi-
sie mit einem Test die Zuver- einem Fall zur Verfügung nischer Literatur oder Leitlinien.
lässigkeit der medizinischen nur 73 Prozent standen, desto schlechter Andere KI-Verfahren verwenden rea-
Chatbots für den Klinikalltag waren die Diagnosen. Im le klinische Falldaten von Universi-
untersucht haben. Zur Unter- zweiten Teil der Studie wur- tätskliniken, mit denen ein maschi-
suchung verwendeten sie anonymisier- den die KI-Diagnosen mit Diagnosen von neller Lernalgorithmus trainiert
te Patientendaten aus einer US-ameri- vier Ärztinnen und Ärzten verglichen. wird. Die Forscherinnen und For-
kanischen Klinik – 2 400 Fälle, die wegen Ergebnis: Bei der Trefferquote siegten scher entwickeln zudem gemischte
Bauchschmerzen in die Notaufnahme die Mediziner mit 89 zu 73 Prozent. Ge- Modelle, die sowohl auf Fach-
gekommen waren. Die Daten umfassten testet wurden ausschließlich Open- expertise als auch auf klinischen
alle für die Diagnose verfügbaren In- Source-Software, da kommerzielle Daten basieren. Die Herausforde-
formationen von der Krankengeschich- Programme wie ChatGPT aus daten- rung besteht darin, trotz einer ge-
te über Blutwerte bis zu medizinischen schutzrechtlichen Gründen und man- ringen Datenmenge genaue, transpa-
Bildern (Mehr zu „Real World Data“ er- gelnder Transparenz nicht in Kranken- rente und nachvollziehbare Diagno-
fahren Sie in der nächsten Ausgabe vom häusern verwendet werden.< TUM.DE sen zu stellen.< IESE.FRAUNHOFER.DE

04 07
24