Professor Hatim Abdulhussein, Geschäftsführer von Health Innovation Kent Surrey Sussex
Eine Initiative namens TrustX wurde ins Leben gerufen, um die Überprüfung, Bereitstellung und Erprobung von Agenten-KI für den Einsatz im gesamten NHS und im Sozialwesen zu unterstützen.
Ziel ist es, den 10-Jahres-Gesundheitsplan der Regierung des NHS zu unterstützen, der dies vorsieht Umfangreiche Einführung von KI-Tools, einschließlich Technologie zur Unterstützung der Diagnose, Automatisierung von Verwaltungsaufgaben, Vorhersage der Nachfrage nach Diensten und Umgebungssprachagenten für Aufgaben wie das Notieren.
TrustX zielt darauf ab, dem Risiko von Voreingenommenheit, potenziellen Fehlern und Fehlinformationen von KI-Agenten entgegenzuwirken, indem es bewertet, wie sie sich in realen Situationen verhalten, mit anderen Technologien und Datenquellen interagieren und wie sie sich im Laufe der Zeit ändern können.
Die Initiative wird in Zusammenarbeit zwischen Health Innovation Kent Surrey Sussex (KSS), dem Trustworthy AI Lab der University of Cambridge, dem Responsible AI Institute und The King’s Fund durchgeführt.
Professor Hatim Abdulhussein, Geschäftsführer von Health Innovation KSS, sagte: „NHS-Teams an vorderster Front brauchen KI, die sicher, praktisch und für den realen Druck gerüstet ist.
„TrustX verbindet Innovation dort, wo sie am wichtigsten ist, und bietet Ärzten und Betriebsleitern eine zuverlässige Möglichkeit, Agentic AI zu testen, zu bewerten und einzuführen.
„Diese Partnerschaft wird dem NHS helfen, schneller voranzukommen, Reibungsverluste zu reduzieren und bedeutende Verbesserungen bei der Produktivität und Patientenversorgung zu ermöglichen.“
TrustX soll die Entwicklung eines gemeinsamen Ökosystems für sicheres Experimentieren, schnelles Lernen und skalierbare Einführung im gesamten NHS fördern und unterstützen.
Es wird ein Abzeichen für „vertrauenswürdige KI-Technologie“ eingeführt, um Fachleuten und der Öffentlichkeit die Gewissheit zu geben, dass ein Softwaresystem unabhängig verifiziert wurde und im Laufe der Zeit auf Sicherheit, Genauigkeit und Ausrichtung überwacht wird.
Sarah Woolnough, Geschäftsführerin von The King’s Fund, sagte: „Wir freuen uns, der Partnerschaft beizutreten, um TrustX zu starten und eine Rolle bei der Unterstützung der Entwicklung, Validierung und Implementierung von Agenten-KI in einer NHS-Umgebung zu spielen.
„Der 10-Jahres-Gesundheitsplan besagt zu Recht, dass Innovation und der Einsatz modernster Technologie eine wichtige Rolle bei der Bewältigung einiger betrieblicher Belastungen und Herausforderungen spielen können, mit denen unser Gesundheits- und Pflegesystem konfrontiert ist.
„Längerfristig besteht für KI – wenn sie gut umgesetzt wird – ein enormes Potenzial, die Funktionsweise des NHS zu verändern sowie die Versorgung von Patienten und die Art und Weise, wie Menschen NHS-Dienste erleben, zu verbessern.“
TrustX wird von Gründern britischer Gesundheitstechnologieunternehmen unterstützt, darunter Dr. Dom Pimenta von TORTUS, Dr. Haris Shuaib von Newtons Tree, Carmelo Insalaco von Rapid Health, Dr. John Jeans von CLEARnotes, Amna Askari und Rachel Finegold von Frontier Health AI und Seb Barker von Beam.
In einer gemeinsamen Erklärung sagten die Gründer: „Als Gründer führender KI-Unternehmen im Gesundheitswesen engagieren wir uns dafür, Technologien zu entwickeln, die sicher und vertrauenswürdig sind und auf die Bedürfnisse von Ärzten und Patienten abgestimmt sind.“
„Durch unseren Beitrag zu TrustX wollen wir einen Maßstab für verantwortungsvolle Innovation setzen und dazu beitragen, ein Ökosystem zu schaffen, in dem KI messbare Vorteile liefert, ohne die Sicherheit zu beeinträchtigen.“
Unterdessen wurde im September von der Regulierungsbehörde für Arzneimittel und Gesundheitsprodukte eine nationale Kommission ins Leben gerufen, um den Zugang zu den neuesten KI-Tools zu beschleunigen, einschließlich KI-Ambient-Voice-Technologie für das Erstellen klinischer Notizen.
