KI-Entwicklung überholt Aufsichtsregeln im Finanzsektor
Das KI-Konsortium von Bank of England und FCA schlägt neue Aufsichtskonzepte für Künstliche Intelligenz im Finanzsektor vor. Im Fokus stehen rasche Ansteckungsrisiken durch autonome Systeme, Anbieterkonzentration und Lücken bei traditionellen Modellrisiko-Rahmenwerken.
Vier Stossrichtungen gegen Systemrisiken
Vier Arbeitsgruppen des Konsortiums untersuchten die zentralen Gefahrenfelder beim KI-Einsatz in Finanzinstituten.
Bei generativer KI erschweren komplexe Systemstrukturen und unvorhersehbare Ergebnisse die Anwendung bestehender Modellrisiko-Prinzipien wie SS1/23. Zudem warnen die Experten vor KI-beschleunigter Ansteckung: Automatisierte Handelssysteme und autonome Agenten könnten bei Netzausfällen oder korrelierten Fehlern innerhalb von Minuten marktweite Turbulenzen auslösen.
Ergänzend offenbaren Befragungen eine erhebliche Anbieterkonzentration bei Rechenkapazitäten und Cloud-Modellen, die systemrelevante Geschäftsprozesse stützen.
Ein vierstufiger Ansatz soll künftig helfen, neuartige Systemfehler bei Grenzfällen systematisch zu begrenzen.
Autonome Agenten und Notfallschalter
Die Debatte gewinnt durch das beschleunigte Tempo bei Frontier-Modellen an Dringlichkeit.
Verweise auf Modelle wie Mythos von Anthropic verdeutlichen wachsende Cyberrisiken und Gefahren bei autonomen Zahlungsströmen.
Die Konsortiumsmitglieder plädieren daher für stärkere Kontrollmechanismen wie Notfallschalter ('Kill Switches') sowie die Nutzung von Simulationsübungen ('Wargaming') und regulatorischen Testfeldern.
Zugleich bereitet das hohe Tempo Sorgen: Die Weiterentwicklung der Technologie droht die vorhandenen Governance-Strukturen und personellen Fachkompetenzen in den Banken zu überfordern.
Tempo schlägt Regulierer
Das Protokoll legt die Schwachstellen der Finanzaufsicht beim KI-Einsatz offen.
Wargaming und Notfallschalter sind zwar gute Ansätze, ersetzen aber keine verbindlichen Regeln.
Ohne klares Durchgreifen droht die technologische Dynamik die Risikokontrolle zu überrennen.