KI-Risikomanagement ist eine Teamleistung
Das Management von KI-Risiken muss funktionsübergreifende Verhandlungen innerhalb der Organisation erfordern. Es kann nicht nur von klinischer oder technologischer Seite sein. Recht, Marketing, Betrieb – die meisten Abteilungen müssen im Gleichschritt sein, denn die Anpassung einer neuen Lösung kann finanzielle Auswirkungen auf das Unternehmen haben, daher muss eine klare Kommunikation über die Risiken erfolgen.
Führungskräfte müssen die Risikoebene kontrollieren und diese Transparenz haben, um zu wissen, wann die Nutzung der Lösung von dem abweicht, worüber sich alle Beteiligten geeinigt haben. Haben sich die Nutzungsrichtlinien des Anbieters kurzfristig geändert? Führt die Organisation eine punktuelle Risikobewertung durch oder muss sie eine Reihe von Kontrollen für die fortlaufende Compliance und Risikomessung einrichten?
Hier können Unternehmen damit beginnen, einige ihrer wichtigsten Risikoindikatoren rund um KI-Lösungen zu integrieren, sodass diese immer aktiv und allgegenwärtig sind. Wenn es sich nur um eine Momentaufnahme eines bestimmten Zeitpunkts handelt, auf die Unternehmen zurückblicken müssen, wird sie irrelevant. Diese Lösungen ändern sich wahrscheinlich schneller als wir erwarten, daher müssen sie über Echtzeitkontrollen verfügen.
Letztendlich ist es von größter Bedeutung, Risiken im Gesundheitswesen zu verstehen und zu managen. Wenn Organisationen dies nicht hinbekommen und Patienten eine Benachrichtigung erhalten, dass ihre Daten kompromittiert wurden, werden sie sich woanders behandeln lassen. Dieser Vertrauensbruch wird sich langfristig auf einen Anbieter auswirken.
Ebenso müssen die verfügbaren KI-Risikorahmen für mehr Vertrauen im Gesundheitswesen sorgen. Wenn Anbieter den von einer unabhängigen Stelle oder einer Regierungsbehörde festgelegten Rahmen übernehmen und anpassen wollen, muss es mehr Zusammenarbeit und Transparenz darüber geben, wie diese Kontrollen im Gesundheitswesen funktionieren.
Als jemand mit jahrzehntelanger Erfahrung in der Gesundheitssicherheit weiß ich, wie schnell sich die Haltung einer Organisation ändern kann. In einem Moment ist ein Anbieter sicher und im nächsten Moment gibt es eine Sicherheitslücke. Vertrauenswürdigkeit wird nicht nur verdient, sie wird auch bewiesen. Das ist einer der größten Faktoren dieser Risikomanagement-Frameworks und der darin enthaltenen Plattformen.
