NHS England hat neue Leitlinien zum Einsatz von KI-gestützten Ambient-Scribing-Tools im Gesundheits- und Pflegebereich veröffentlicht und dargelegt, wie Organisationen die Technologie sicher übernehmen und gleichzeitig die Anforderungen an Datenschutz und Patientenrechte erfüllen können.
Ambient Scribes sind KI-Tools, die klinischen Gesprächen passiv zuhören und automatisch Ausgaben wie Konsultationsnotizen, Zusammenfassungen oder Briefe generieren. Die Technologie trägt dazu bei, den Verwaltungsaufwand zu reduzieren und ermöglicht es Ärzten, mehr Zeit mit den Patienten zu verbringen.
Die Leitlinien, die unter Mitwirkung des Information Commissioner’s Office (ICO) und des National Data Guardian (NDG) entwickelt wurden, umfassen Abschnitte für Patienten, medizinisches Personal und IG-Fachkräfte.
Darin wird dargelegt, wie mit Informationen bei der Nutzung dieser Technologien umgegangen wird, sowie wichtige Überlegungen zu Transparenz, Wahlmöglichkeiten und Schutzmaßnahmen zum Schutz der Privatsphäre.
Eine Kernaussage der Leitlinien besteht darin, dass für den Einsatz von Ambient Scribes in der Einzelpflege zwar keine ausdrückliche Zustimmung erforderlich ist, Transparenz jedoch unerlässlich ist.
Kliniker müssen die Patienten zu Beginn jeder Interaktion darüber informieren, ob die Technologie verwendet wird, und den Patienten muss die Möglichkeit gegeben werden, Einspruch zu erheben, heißt es darin.
In den Leitlinien heißt es außerdem: „Wenn eine Person anderer Meinung ist, können Sie dieses Tool nicht verwenden“, was bekräftigt, dass die Wahl des Patienten trotz der Einführung von KI weiterhin im Mittelpunkt steht.
In einem Beitrag auf LinkedIn sagte George Onisiforou, Mitglied des NHS England Responsible AI Adoption Committee und Berater für die verantwortungsvolle Einführung von KI für NHSE und das Ministerium für Gesundheit und Soziales, dass die Leitlinien „ein wichtiger Meilenstein sind, da eine starke Informationsverwaltung unerlässlich ist, um das Vertrauen, die Sicherheit und die Einhaltung gesetzlicher Vorschriften der Patienten aufrechtzuerhalten“.
„Ein großes Dankeschön an alle, die an der Entwicklung dieses Leitfadens beteiligt waren – Kollegen im gesamten NHS England, unsere IG-Experten und die Health and Care Information Governance Working Group“, fügte er hinzu.
Gesundheitsfachkräfte werden in den Leitlinien auch daran erinnert, dass sie die volle Verantwortung für die Richtigkeit der klinischen Aufzeichnungen tragen.
Von Umgebungsschreibern generierte Ausgaben müssen überprüft und korrigiert werden, bevor sie zu Patientenakten hinzugefügt werden. In komplexeren Szenarien wie der Übersetzung wird eine zusätzliche Validierung empfohlen.
Für Organisationen unterstreicht der Leitfaden die Notwendigkeit robuster Governance-Prozesse, einschließlich der Durchführung von Datenschutz-Folgenabschätzungen, der klaren Definition der Rollen von Datenverantwortlichen und -verarbeitern und der Sicherstellung, dass Lieferanten strenge Sicherheits- und Compliance-Standards einhalten.
Datenminimierung ist ein weiteres wichtiges Thema, wobei NHSE betont, dass Audioaufzeichnungen und Transkripte in der Regel gelöscht werden sollten, sobald eine überprüfte Zusammenfassung erstellt wurde, es sei denn, es gibt einen klaren Grund für die Aufbewahrung, wie etwa die Leistung eines Überwachungstools.
Während Umgebungsschreiber als Hilfsmittel zur Unterstützung und nicht als Ersatz für die klinische Entscheidungsfindung positioniert werden, betont NHS England, dass ihre Einführung neue Risiken mit sich bringt. Organisationen werden dringend gebeten, dafür zu sorgen, dass das Personal entsprechend geschult ist und dass Richtlinien vorhanden sind, die eine sichere und wirksame Nutzung regeln.
Die neuen Leitlinien kommen zu einem Zeitpunkt, an dem das Interesse an generativen KI-Tools im gesamten NHS zunimmt. Letzten Monat wurde bekannt, dass der East Lancashire Hospitals NHS Trust ein Programm zur Bereitstellung einer Ambient Voice-Technologie (AVT) im gesamten NHS in England veranstaltet.
Dies geschieht, nachdem NHSE sein nationales selbstzertifiziertes Register für AVT-Lieferanten eingeführt hat, um den Nachweis der Einhaltung zu erbringen.
