Page 13 - xpress_Ausgabe 23.4

Titelgeschichte

2022 das USMLE mit einer Wahrscheinlichkeit auf Basis der jeweiligen medizinischen Doku-
von 67 Prozent. Ein gutes Vierteljahr später mentation Antwortbriefe zu verfassen. Char-
schaffte Med-PaLM 2 das Examen dann schon mant, ohne Zweifel. Derselbe Arzt machte dann
in 87 Prozent der Fälle. allerdings einen Rückzieher und teilte kurz
Die Frage ist natürlich, wie viel echte ärzt- darauf mit, dass er doch noch keine Zeit spare,
liche Kompetenz solche PR-Stunts demonstrie- weil die KI zu oft Dinge hinzuerfinde.
ren. Oder wie wenig. Dr. Frank Wissing, Gene- Dennoch: Neben Tools für die Bild- und Vi-
ralsekretär und Vorstandsmitglied des Medi- deoanalytik und neben KI-gestützten Chatbots
zinischen Fakultätentags, gibt sich entspannt: für standardisierte Interaktionen wie Anam-
„Es schreckt beim ersten Lesen ein bisschen nese, Krankenhausaufnahme oder telemedizi-
auf, aber ganz überraschend kommt es nicht. nische Ersteinschätzungen sind Dokumenta-
Ärztin oder Arzt wird, wer ein komplettes Stu- tionstools heiße Kandidaten für künftige Kil- Abb.: Leonardo AI
dium durchläuft, wer zahlreiche mündliche leranwendungen von KI in der medizinischen
und praktische Prüfungen besteht. So gesehen Versorgung. Besonders vielversprechend
ist das dann am Ende gar nicht so aufregend.“ könnte dabei eine Verknüpfung von LLM und Nuance im Frühjahr 2023 einen Ambient-
Klar ist: Diverse Unternehmen werden in medizinischer Spracherkennung sein. Das Recognition-Prototyp vorgestellt, der aus ei-
den nächsten Jahren Produkte entwickeln, die glaubt zumindest Markus Vogel, Chef-Medizi- nem Arzt-Patienten-Gespräch im Hintergrund
den Anspruch haben, die medizinische Versor- einen ärztlichen Befund destillierte – noch
gung zu unterstützen. Es geht schon los: Auf- In der EU wird voraus- nicht perfekt, aber doch vorführbar.
merksamkeit erregte im Mai 2023 das US-Un-
ternehmen Hippocratic AI aus Palo Alto, das in sichtlich noch im Jahr Schöne neue Welt?
2023 der AI Act
einer frühen Finanzierungsrunde, einer soge- Alles wird einfacher, alles wird toll? Wie immer
nannten Seed-Funding-Runde, 50 Millionen ist es nicht ganz so einfach. Neue Technologien
US-Dollar eingesammelt hatte – ein für dieses verabschiedet. stellen neue Fragen, und manch einer macht
Stadium ungewöhnlich hoher Betrag. sich Sorgen, wohin der Weg führt, den wir ge-
Hippocratic AI will eine KI-Plattform für Heil- ner bei Nuance, einem Unternehmen, das viel- rade erst beginnen zu beschreiten. Schlagzei-
berufler-Bots entwickeln, die auf bestimmte leicht nicht ganz zufällig kürzlich von dem len machte Ende Mai 2023 ein offener Brief von
Rollen zugeschnitten sind, zum Beispiel „Apo- OpenAI-Mutterkonzern Microsoft erworben KI-Experten, die zu einer scharfen Regulierung
theke“, „Ernährungsberatung“ oder „Allge- wurde: „Der Begriff, den wir dafür verwenden, generativer KI aufriefen und als „Worst Case“
meinmedizin“. Die Bots werden zunächst auf ist Ambient Recognition. Die Software hört ein Szenario an die Wand malten, bei dem KI
Fakten trainiert und erhalten dann eine Spe- einfach zu, und dann wird am Ende gefragt, die Menschheit auslöscht. Da dieser Brief über-
zialausbildung durch menschliche Fachkräfte, was genau gesagt wurde.“ wiegend von Menschen unterschrieben wurde,
die ihnen Fehler austreiben sollen. Ein Ambient Recognition System liefert die die aktuellen KI-Systeme nicht nur erfun-
Auch hier gibt es bereits erste Erfolgsmel- dank LLM eine Zusammenfassung des Gehör- den haben, sondern damit auch sehr viel Geld
dungen: Die bisher rein auf Fakten trainierten ten, und das extrem schnell: Arzt oder Ärztin verdienen, empfand mancher diese A� ußerung
Modelle haben nicht nur das USMLE, sondern machen Anamnese, körperliche Untersuchung als etwas scheinheilig. Das Thema ist in jedem
auch Spezialexamina für Pflegekräfte, Ernäh- und so weiter, und sie sprechen in den Raum Fall politisch auf der Tagesordnung. In der EU
rungsberatung und Pharmazie erfolgreich hinein, was ihnen auffällt. Danach gehen sie an wird voraussichtlich noch im Jahr 2023 der AI
bestanden. Der Beweis, dass das im Versor- den Computer – und weite Teile des Berichts Act verabschiedet, das bisher umfangreichste
gungsalltag hilft, steht noch aus, aber poten- sind schon fertig. Im Idealfall klingt der Bericht KI-bezogene Gesetz weltweit. Es soll helfen,
zielle Einsatzszenarien sind klar: telemedizi- dann auch genauso, wie er soll: „Das System Risiken wie einen KI-Bias zu reduzieren, und
nische Ersteinschätzungen, Triage-Szenarien, erhält etwa einen Beispielbericht, den es als es will den Einsatz von KI für manipulative
Arzneimittelberatung, Vermittlung von Basis- Ausgangsdokument nutzt. Dann übernimmt es Zwecke oder Ü� berwachungszwecke zumin-
kenntnissen zu Lebensstilinterventionen. Die die patientenspezifischen Befunde aus dem dest teilweise verbieten.
Liste ließe sich fortsetzen. Gespräch und nimmt für alles, was nicht extra Aus medizinisch-ethischer Sicht stellen sich
erwähnt wurde, einen Normalbefund an.“ bei Tools, die bisher praktisch ausschließlich
Doctor’s little helper Vogel ist überzeugt, dass solche Tools das auf US-Computern rechnen, Fragen zum Daten-
Stichworte helfen im Versorgungsalltag: Eines Gesundheitswesen über kurz oder lang stark schutz und zur Datensicherheit. Eine andere
der großen Versprechen der KI auf Basis gro- verändern werden. Dabei gehe es nicht darum, ethische Frage sei, inwieweit KI-Tools Auswir-
ßer Sprachmodelle ist, dass sie die mit der Di- eine Dokumentation vollautomatisch fertigzu- kungen auf die ärztliche Kompetenz haben
gitalisierung bisher mühsamer und umfang- stellen: „Ziel ist, eine Unterstützung dahinge- könnten, so Allgemeinmediziner Prof. Dr.
reicher gewordene Dokumentation erleich- hend zu bieten, dass bestimmte Dokumente, Ferdinand Gerlach bei einem KI-Symposium
tern. Tatsächlich machte schon kurz nach die ohnehin erstellt werden müssen, schon von Springer Medizin: „Maschinen werden uns
Freischaltung von ChatGPT das Video eines vorausgefüllt sind.“ Das ist zumindest die Idee, diagnostische und therapeutische Empfehlun-
Arztes auf YouTube Furore: Er nutzte die KI, denn produktreif ist das bisher noch nicht. Im- gen geben, und sie werden das ziemlich gut tun.“
um bei Anfragen von Krankenversicherungen merhin: Bei der IT-Messe HIMSS in Chicago hat Dies berge die Gefahr eines Übervertrauens

x.press 23.4 13