Dr. Henrietta Hughes OBE, Englands Beauftragte für Patientensicherheit (Quelle: Fotos von Photographer London)
Nach Erkenntnissen der Medicines and Healthcare Products Regulatory Agency (MHRA) treiben Bedenken hinsichtlich Sicherheit, Aufsicht und Haftung die Bedenken hinsichtlich des Einsatzes von KI im Gesundheitswesen hervor.
Laut einem Blogbeitrag von Professorin Henrietta Hughes, Beauftragte für Patientensicherheit, macht ein im Dezember 2025 gestarteter Aufruf zur Beweisaufnahme die Besorgnis über die Überwachung von KI-Tools deutlich und zeigt, wer dafür verantwortlich ist, wenn etwas schief geht.
Die Ergebnisse werden die Nationale Kommission in die Regulierung von KI im Gesundheitswesen einfließen lassen, die geschaffen wurde, um eine schnellere Einführung von KI-Tools wie Ambient-Voice-Technologien zu unterstützen.
Bis zum Abschluss der Konsultation im Februar 2026 wurden mehr als 770 Antworten von Ärzten, der Industrie, Patienten und der Öffentlichkeit eingereicht.
Hughes, der stellvertretende Vorsitzende der Kommission, sagte, dass es „starke Unterstützung für eine Reform des aktuellen Regulierungsansatzes“ gebe, und äußerte Bedenken hinsichtlich der Art und Weise, wie KI-medizinische Geräte nach dem Einsatz überwacht werden und wer haften wird, sobald KI stärker in die klinische Entscheidungsfindung einbezogen wird.
„Die Bewältigung dieses Problems wird für den Schutz von Patienten, die Unterstützung von Ärzten und den Aufbau von Vertrauen von entscheidender Bedeutung sein und erfordert eine Zusammenarbeit im gesamten System“, sagte sie.
Hughes fügte hinzu, dass „die Menschen sinnvolle Veränderungen wollen, aber keine vollständige Überarbeitung“ der aktuellen Vorschriften.
Neben dem Aufruf zur Beweisaufnahme sagte Hughes, dass ein umfassenderes Engagementprogramm im Gange sei, um sicherzustellen, dass ein breites Spektrum an Stimmen die Arbeit der Kommission präge.
Die MHRA hat in Zusammenarbeit mit National Voices mit Patienten und Gemeinschaften zusammengearbeitet, darunter auch mit denen, die bei diesen Gesprächen oft außen vor bleiben, wie etwa Menschen mit Lernbehinderungen, Betreuer und junge Menschen.
Es hat auch öffentliche Diskussionsrunden der Health Foundation mit Ipsos MORI sowie Konsultationen mit seiner Patienten- und Öffentlichkeitsgemeinschaft unterstützt.
„Diese Diskussionen zeigen, dass es den Menschen leichter fällt, Ärzte durch KI zu unterstützen, beispielsweise durch die Verringerung des Verwaltungsaufwands, als Entscheidungen mit hohem Risiko selbstständig zu treffen.“
„Es wird großer Wert auf menschliche Aufsicht, Transparenz und den Nachweis gelegt, dass diese Technologien für alle sicher funktionieren.“
„Beim gesamten Engagement zeichnet sich ein konsistentes Bild ab: Vertrauen ist von zentraler Bedeutung dafür, ob die Vorteile von KI im Gesundheitswesen realisiert werden können“, sagte Hughes.
Die Arbeit der Kommission wird von vier Arbeitsgruppen unterstützt, die Fachwissen aus den Bereichen Gesundheitssysteme, Technologie, dezentrale Nationen und Regierung bündeln.
„Als Vorsitzender der Health Systems Working Group habe ich mich darauf konzentriert, sicherzustellen, dass KI so eingesetzt wird, dass sie die Perspektive des Patienten einbezieht.
„Das bedeutet, eine patientenzentrierte Sicht auf die Art und Weise einzunehmen, wie Technologien im alltäglichen Gesundheitswesen entworfen, implementiert und überwacht werden“, fügte Hughes hinzu.
Die Empfehlungen der Kommission werden voraussichtlich im Sommer 2026 veröffentlicht.
Hughes veranstaltet am 20. Mai 2026 ein öffentliches Webinar zur Kommission mit Lawrence Tallon, Geschäftsführer der MHRA, und Professor Alastair Denniston, Vorsitzender der Kommission.
Hier können Sie sich vorab registrieren und Ihre Fragen stellen.
