Page 22 - xpress_Ausgabe 20.1

Thema

INTERVIEW „HAFTUNGSFRAGE IN EUROPA NOCH NICHT GEKLÄRT!“

Professor Dr. Cord Spreckelsen beschäftigt sich schon lange mit der Entwicklung von klinischen Entscheidungs-
unterstützungssystemen. Im Bereich der Diagnosetools sieht er noch einen Nachbesserungsbedarf in der
EU-Medizinprodukteverordnung.

PROFESSOR DR. CORD
Î ÎMit welchen Fragestellungen beschäftigen Sie sich im Bereich der kli- Î ÎWenn ein Arzt sich ein klinisches Entscheidungs- SPRECKELSEN
nischen Entscheidungsunterstützung? unterstützungssystem anschaffen möchte: Woran arbeitet am Institut für
Mit einer Reihe von Themen. In einem Projekt geht es beispielsweise dar- kann er die Qualität einer Software erkennen? Medizinische Statistik, Abb.: Heiko Hellm0nn, Universitätsklinikum Jena
Informatik und Daten-
um, die Informationen, die in Befundtexten direkt auf einen Patienten hin- Nach der EU-Medizinprodukteverordnung (MDR) wissenschaften am
weisen, wie Name, Geburtsdatum oder Beruf, im übertragenen Sinne zu fallen klinische Entscheidungsunterstützungssyste- Universitätsklinikum Jena.
schwärzen. Im Fokus steht dabei nicht die Entwicklung eines Algorithmus, me künftig in die Risikoklasse IIa oder III. Das bedeutet, dass sie ein Zertifi-
sondern herauszufinden, wie man diesen trainieren kann, ohne schon beim zierungsverfahren durchlaufen müssen. Auf dem Weg zum Medizinprodukt
Training gegen den Datenschutz zu verstoßen. Hintergrund: Bei der Ent- der Klasse IIa oder III müssen Studien gemacht werden. Der Arzt kann sich in
wicklung eines Algorithmus werden sehr viele Daten benötigt. Wenn Kran- diesen Studien über die Performance des Systems informieren, etwa über
kenhäuser diese Daten gesammelt an die Softwareentwickler weitergeben dessen Treffsicherheit oder wie ausfallsicher es ist.
würden, wäre das problematisch.
Î ÎWoran liegt es, dass Diagnosetools bei uns kaum eingesetzt werden?
Î ÎWeil sich die Daten zurückverfolgen lassen? Diagnosetools arbeiten in der Regel nicht mit klassischer künstlicher Intelli-
Genau. Dadurch, dass Sie Daten zusammenstellen, entsteht ein Re-Identifi- genz, sondern mit selbstlernenden Verfahren. Bei diesen Systemen ist die
zierungsrisiko. Es reichen ungefähr 15 Attribute aus, darunter sozioökono- Haftungsfrage in Europa noch nicht geklärt. Während die amerikanische Zu-
mische und Gesundheitsdaten, öffentliche Statistiken oder die Bewegungs- lassungsbehörde Lösungen für selbstlernende Systemen gefunden hat, ist
daten Ihres Smartphones, um jeden einzelnen mit einer sehr hohen Wahr- das in der EU-Medizinprodukteverordnung nicht richtig angedacht. Zurzeit
scheinlichkeit zurückzuverfolgen. Das wurde mit Daten in den USA auspro- verhält es sich bei uns so, dass sich ein einmal zugelassenes System inner-
biert. Deshalb sollte ein Krankenhaus diese Daten nicht herausgeben. Bes- halb des Zulassungszeitraums nicht sehr stark verändern darf. Ein paar
ser ist es, den Algorithmus anstelle der Daten weiterzureichen und den Al- Patches sind in Ordnung. Wenn ein System aber ständig durch Feedback hin-
gorithmus dort zu trainieren, wo die Daten erzeugt wurden. zulernt und sich dadurch die Grundfunktionalität ändert, weil das System
plötzlich sehr viel mehr kann, verliert es automatisch seine Zulassung. Falls
Î ÎWird dadurch der Aufwand für die Entwickler nicht unvertretbar groß? sich an der MDR nichts ändert, werden ganze Gattungen von Systemen, ge-
Der Algorithmus lässt sich oft einfach über das Internet versenden. Die Her- rade solche mit maschinellem Lernen, die sich weltweit sehr schnell entwi-
ausforderung ist, dass er vor Ort auch ausgeführt werden kann. ckeln, in Europa auf absehbare Zeit nicht zum Einsatz kommen.

Î ÎWie lässt sich ein Algorithmus datenschutzkonform trainieren? Î ÎGibt es etwas zu beachten, wenn man ein Diagnosetool verwenden
In den meisten Fällen reicht es aus, sorgfältig zu anonymisieren. Pseudony- möchte, das nicht in Europa entwickelt wurde?
misierte Daten sind technisch schwierig zu handhaben, weil sie nach dem Neben der Zulassung als Medizinprodukt ist die Übertragbarkeit ein weite-
Gesetz wie Klartext behandelt werden müssen. Es gibt aber auch Verfah- res, sehr wichtiges Kriterium. Ist die Population, die zur Entwicklung und
ren, die versuchen, die Anonymität der Daten ein Stück weit zu überwa- zum Training des Algorithmus verwendet wurde, mit dem Patientenkollek-
chen, sodass es schwer ist, sie zu re-identifizieren. Außerdem kann man tiv vergleichbar, auf das der Algorithmus angewendet werden soll? Ein
versuchen, die Daten ganz leicht zu verändern, sodass sie für das Lernver- System, das beispielsweise an jungen Erwachsenen in Nordeuropa trainiert
fahren noch verwendet werden können, die Daten selbst aber nicht mehr wurde, lässt sich nicht unbedingt auf ältere Erwachsene in Südeuropa
auf einen Menschen beziehbar sind. Das machen im Moment die großen In- anwenden. Gerade, wenn das System Genome oder Labordaten in seine
ternetkonzerne, um ihren Datenschutz zu verbessern. Entscheidung einbezieht, kann es zu großen Unterschieden kommen.<

Eine chinesisch-amerikanische Forscher- entnommen hatten, schnitt das KI-System bei Patienten im Dialog mit der Software Hinwei-
gruppe hat im vergangenen Jahr im Fachjournal der Diagnose besser ab als jüngere, noch uner- se auf die Ursachen ihrer Beschwerden erhal-
„ Nature Medicine “ über ein KI-basiertes fahrenere Ärzte. ten. Diese Systeme können sich auch Ärzte aus
System für die Pädiatrie berichtet, das zuver- In den vergangenen Jahren gab es weitere den App-Stores herunterladen und einsetzen,
lässige Diagnosen stellt. Das System haben die Fortschritte auf dem Gebiet der künstlichen etwa wenn sie eine Zweitmeinung einholen
Forscher mit den Daten von über einer Million Intelligenz, von der vor allem die „Symp- oder nicht in Büchern nachschlagen möchten.
Patienten im Alter von 0 bis 18 Jahren trainiert. tom-Checker“ profitiert haben (siehe x.press Die Symptom-Checker sind aber nicht für eine
Bei einem Vergleichstest mit Daten, die die 19.4, Seite 20 ff.). Hierbei handelt es sich um vollwertige Diagnose ausgelegt, da sie ledig-
Forscher elektronischen Gesundheitsakten KI-basierte medizinische Chatbots, mit denen lich – wie der Name besagt – Symptome in ihre

22 x.press 20.1