Breeden: KI-Agenten bergen neue Finanzstabilitätsrisiken
KI-Fähigkeiten beschleunigen sich rasant und werden zunehmend agentisch. Sarah Breeden von der Bank of England warnt vor den weitreichenden Risiken für die Finanzstabilität und fordert Zentralbanken zum Umdenken auf.
Autonome Systeme im Finanzwesen
Die Entwicklung der Künstlichen Intelligenz schreitet exponentiell voran.
Während generative KI Ende 2024 lernte, Anfragen zu begründen, können agentische KI-Systeme nun autonom Handlungsabfolgen verketten.
Diese Entwicklung wird das Finanzsystem rasch in eine autonomer agierende, skalierbare und schnelle Umgebung verwandeln.
KI-Agenten werden Transaktionen für Verbraucher und Händler abwickeln, Handelsstrategien entwickeln und ausführen sowie Cyber-Schwachstellen identifizieren.
Breeden betont, dass diese technologischen Überraschungen eine doppelte Herausforderung darstellen: nicht nur die verantwortungsvolle Einführung und das Risikomanagement zu ermöglichen, sondern auch zu erkennen, dass KI die Art und Weise, wie Zentralbanken ihre Aufgaben erfüllen, transformieren muss.
Die Bank of England hat bereits Maßnahmen zur Förderung einer verantwortungsvollen KI-Nutzung im Finanzsystem ergriffen, doch die Geschwindigkeit der Entwicklung erfordert eine ständige Anpassung der Strategien.
Cyber-Risiken und Marktvolatilität
Die unmittelbarste Sorge von Breeden gilt den Cyber-Fähigkeiten agentischer KI.
Obwohl diese Tools in den Händen von Verteidigern die Cyber-Resilienz stärken, erhöhen sie in böswilligen Händen die Wahrscheinlichkeit von Angriffen, die die Finanzstabilität gefährden könnten.
Die Herausforderung besteht darin, den Vorteil der Cyber-Verteidiger angesichts der sich entwickelnden Fähigkeiten und einer zunehmend ernsten Cyber-Bedrohungslage zu erhalten.
Die Bank of England und ihre G7-Kollegen haben Cyber-Resilienz seit über einem Jahrzehnt priorisiert und praktische Schritte für Finanzinstitute zur Vorbereitung auf diese Risiken festgelegt.
Darüber hinaus könnten agentische Handelssysteme die Volatilität in Stresssituationen verstärken, insbesondere wenn ihre Ziele von den ursprünglichen oder öffentlichen Politikzielen abweichen.
Die Finanzpolitik muss sich daher fragen, ob das System die resultierenden Verhaltensweisen beobachten und eindämmen kann.
Ein Paradigmenwechsel für Zentralbanken
Die rasante Entwicklung der KI erfordert einen grundlegenden Wandel in der Arbeitsweise der Zentralbanken.
Bestehende, technologieagnostische Regulierungsrahmen sind für autonome Agenten unzureichend und ein rein menschliches Eingreifen ist unrealistisch.
Es braucht dringend neue Governance- und Rechenschaftsrahmen sowie eine verstärkte internationale Zusammenarbeit, um grenzüberschreitende Risiken zu adressieren.
Zentralbanken müssen proaktiv Szenarien analysieren und ihre internen Fähigkeiten sowie institutionellen Strukturen anpassen, um auf häufigere technologische Überraschungen vorbereitet zu sein.
Quelle: Agents of change − speech by Sarah Breeden
IN: