Die Monetary Authority of Singapore (MAS) hat ein Konsultationspapier herausgegeben, in dem sie eine Reihe von Leitlinien zum KI-Risikomanagement vorschlägt, um Finanzinstituten (FIs) Orientierungshilfen für den verantwortungsvollen Einsatz von KI im Finanzsektor zu geben.
Die vorgeschlagenen Richtlinien sollen für alle Finanzinstitute gelten und die aufsichtsrechtlichen Erwartungen der MAS hinsichtlich der Überwachung des KI-Risikomanagements, wichtiger Risikomanagementsysteme, Richtlinien und Verfahren, Lebenszykluskontrollen sowie der für die KI-Nutzung erforderlichen Fähigkeiten und Kapazitäten darlegen.
MAS weist darauf hin, dass KI in einer Vielzahl von Anwendungsfällen eingesetzt werden kann und dass die Risiken je nach Größe, Umfang und Geschäftsmodellen der Finanzinstitute variieren können.
Die Leitlinien sollen Erwartungen vermitteln, die im gesamten Finanzsektor allgemein anwendbar sind und verhältnismäßig angewendet werden können, wobei die Größe und Art der Aktivitäten eines FI, seine KI-Nutzung und sein Risikoprofil berücksichtigt werden.
Sie decken verschiedene KI-Anwendungen und -Technologien ab, darunter generative KI und neuere Entwicklungen wie KI-Agenten.
Die Leitlinien legen Erwartungen in mehreren Schlüsselbereichen fest.
Zur Überwachung des KI-Risikomanagements wird von Vorständen und Führungskräften erwartet, dass sie Rahmenbedingungen, Strukturen, Richtlinien und Prozesse festlegen und umsetzen sowie eine angemessene Risikokultur für den KI-Einsatz fördern.
Für Risikomanagementsysteme, -richtlinien und -verfahren sollten FIs den KI-Einsatz im gesamten Unternehmen identifizieren, genaue KI-Inventare führen und Risikobewertungen implementieren, die Auswirkungen, Komplexität und Zuverlässigkeit berücksichtigen.
In Bezug auf die Kontrollen, Fähigkeiten und Kapazitäten des KI-Lebenszyklus sollten Finanzinstitute Kontrollen für Datenmanagement, Fairness, Transparenz und Erklärbarkeit, menschliche Aufsicht, Risiken Dritter, Bewertung und Tests, Überwachung und Änderungsmanagement implementieren.
Diese Kontrollen sollten in einem angemessenen Verhältnis zur bewerteten Wesentlichkeit der KI-bezogenen Risiken stehen.
FIs sollten außerdem sicherstellen, dass ihre Fähigkeiten und Ressourcen ausreichen, um ihren KI-Einsatz zu verwalten.
Die Leitlinien bauen auf der thematischen Überprüfung des KI-Einsatzes großer Banken durch MAS im Jahr 2024 und den Gesprächen mit Finanzinstituten auf.
Ho Hern Shin, stellvertretender Geschäftsführer, sagte:
„Die vorgeschlagenen Leitlinien zum KI-Risikomanagement geben Finanzinstituten klare aufsichtsrechtliche Erwartungen an die Hand, um sie bei der Nutzung von KI in ihren Geschäftsabläufen zu unterstützen. Diese verhältnismäßigen, risikobasierten Leitlinien ermöglichen verantwortungsvolle Innovationen von Finanzinstituten, die die entsprechenden Sicherheitsvorkehrungen zur Bewältigung wichtiger KI-bezogener Risiken implementieren.“
MAS lädt interessierte Parteien ein, bis zum 31. Januar 2026 Kommentare zu den Vorschlägen einzureichen.
Hervorgehobener Bildnachweis: Bearbeitet von Fintech News Singapore, basierend auf dem Bild von user8285578 über Freepik
