Mit früheren Tools zur klinischen Entscheidungsunterstützung habe man ein besseres Verständnis der implementierten Algorithmen und klarere Datenquellen erhalten, sagte sie. Aber mit der neueren Generation von KI-Tools „sind diese im klinischen Umfeld so etwas wie eine Black Box. Wenn ich also einen Patienten besuche und eine Art Entscheidungsunterstützung erscheint, weiß ich möglicherweise nicht, was der Algorithmus im Hintergrund ist. Ich weiß möglicherweise nicht, ob die Daten, die in den Algorithmus eingegeben wurden, korrekt sind“, sagte sie.
Sie stellte auch die Frage, welche Art von Feedbackschleifen für diese Tools vorhanden seien. „Wenn etwas schiefgeht, haben wir dann eine Möglichkeit, es zu melden? Werden wir es reparieren lassen, wenn wir es melden? Was sind das für Mechanismen? Und ich denke, dass es so wichtig sein wird, über entsprechende Prozesse zu verfügen, damit wir uns mit der Verwendung dieser Tools im klinischen Umfeld wohlfühlen. Wir erkennen ihren Wert absolut an. Wir wissen, dass sie im klinischen Umfeld wirklich nützlich sein können. Aber es muss dieses Vertrauen vorhanden sein, das wir gewinnen, wenn wir sie weiterhin einführen.“
Lozovatsky fügte hinzu, dass Organisationen auf Halluzinationen und Abweichungen achten müssen, wenn diese Modelle Auswirkungen auf die Patientenversorgung haben sollen.
Dr. Kathryn King, Chief Medical Information Officer und Co-Direktorin des National Telehealth Center of Excellence an der Medical University of South Carolina Health, sagte, dass die Einführung von KI in klinischen Umgebungen wahrscheinlich eine Neukonfiguration der Arbeitsabläufe erfordern wird, beginnend mit dem elektronischen Gesundheitsaktensystem.
„Die Unreife, die ich bei KI-Lösungen im klinischen Bereich sehe, besteht darin, dass sie, wenn man so will, eine Punktlösung an einem einzigen Punkt in einem langen klinischen Arbeitsablauf sind, typischerweise innerhalb der EHR“, sagte King. „Dieser eine Punkt in diesem Arbeitsablauf löst nicht wirklich das gesamte Problem eines Klinikers.“
Obwohl das HITECH-Gesetz von 2009 ein wesentlicher Faktor dafür war, Gesundheitsorganisationen zur Einführung von EHR-Systemen zu bewegen, ging es im Kern des Prozesses um die Digitalisierung von Papierakten. Einige der Kennzeichen der EHR sind Relikte der Papierkarte.
„Ich denke, der nächste Schritt muss darin bestehen, die Fragen zu stellen: Warum machen wir die Dinge all die Jahre so, wie wir es getan haben, und wie kommen wir zu einem anderen Arbeitsablauf, der vielleicht mehr Sprachnutzung nutzt, aber auf eine Weise, die für jeden Einzelnen sinnvoll ist? Und für mich lag der Fokus so sehr auf „Das ist das Tool, das ist das Coole“, anstatt einen Schritt zurückzutreten und die Art und Weise, wie wir Pflege erbringen, wirklich neu zu erfinden“, sagte Lozovatsky.
