Tshazibana: KI-Regulierung im Finanzsektor erfordert Demut
Fundi Tshazibana, Vizechefin der südafrikanischen Zentralbank, erörtert die Regulierung und Aufsicht des Finanzsektors im Zeitalter der Künstlichen Intelligenz. Sie betont die Notwendigkeit, Risiken zu managen und Innovation zu fördern.
KI-Revolution erfordert Demut
Fundi Tshazibana, Vizechefin der südafrikanischen Zentralbank, beleuchtet die rasante Einführung von Künstlicher Intelligenz (KI) im Finanzsektor.
Anwendungsfälle reichen von kundennahen Chatbots bis zu Machine-Learning-Modellen für Betrugserkennung und Prognose.
Ein Beispiel ist 'Mythos', eine KI von Anthropic, die Sicherheitslücken in Betriebssystemen so effektiv aufdeckte, dass sie nur ausgewählten Institutionen zugänglich gemacht wird.
Tshazibana betont, dass die Aufsichtsbehörden ihre Weltbilder aktualisieren und die Branche beim verantwortungsvollen, ethischen und sicheren Einsatz von KI leiten müssen.
Dabei sei Demut geboten, da sich die Technologie noch in einem frühen Stadium der Entwicklung befinde.
Finanzinstitute müssen die Risiken der KI-Nutzung selbst tragen, da die Verantwortung bei den Lizenzinhabern liegt.
Die dunkle Seite der Algorithmen
Die Finanzstabilitätsbehörde (FSB) identifiziert fünf Kategorien von Schwachstellen durch die Verbreitung von KI.
Dazu gehören Abhängigkeiten von Drittanbietern, die 'Single Point of Failure'-Risiken bergen.
Cyberrisiken wie Hacking und Deepfakes verstärken Kriminalität; digitale Bankbetrugsfälle in Südafrika stiegen zwischen 2023 und 2024 um 86 Prozent.
Modellrisiken entstehen durch Halluzinationen, Voreingenommenheit und mangelnde Erklärbarkeit von KI-Entscheidungen.
KI-gesteuerte Handelsstrategien können synchronisiertes Marktverhalten und erhöhte Volatilität auslösen, was Krisen beschleunigt.
Das Risiko der Fehlausrichtung, wenn KI nicht wie beabsichtigt agiert, mit Fällen von Insiderinformationen oder Erpressung, komplettiert die Bedenken.
Wissenslücken schließen, Regeln kalibrieren
Die Rede von Tshazibana skizziert einen pragmatischen, aber ambitionierten Weg zur KI-Regulierung.
Die Herausforderungen bei der Entwicklung einer globalen Taxonomie und dem Aufbau von Fachwissen sind jedoch immens.
Ob der 'Mensch in der Schleife' tatsächlich die Kontrolle behält, bleibt die zentrale, unbeantwortete Frage.