KI-Architektur: Quelle der Finanzinstabilität
Eine EZB-Studie zeigt: Die Architektur von KI-Systemen ist entscheidend für die Finanzstabilität. Q-Learning-Algorithmen neigen zu Bank-Run-ähnlichen Dynamiken, während Large Language Models unvorhersehbares Verhalten zeigen.
Algorithmen als Quelle der Instabilität
Künstliche Intelligenz (KI) verändert die Finanzwelt rasant.
Algorithmen steuern bereits 60-70 Prozent des Aktienhandels in den USA, und Large Language Models (LLMs) werden zunehmend für Finanzberatung genutzt.
Eine aktuelle EZB-Studie untersucht die Risiken für die Finanzstabilität durch KI-gestützte Entscheidungen.
Die Forscher simulierten ein Rücknahme-Spiel für Investmentfonds mit autonomen KI-Agenten.
Dabei wurden zwei Architekturen verglichen: Q-Learning-Algorithmen, die auf iterativem Lernen basieren, und LLMs, die kontextbasiert argumentieren.
Das zentrale Ergebnis: Die KI-Architektur selbst ist eine Quelle der Instabilität.
Algorithmen, die in derselben Umgebung agieren und dieselben Ziele verfolgen, führen zu grundlegend unterschiedlichen Ergebnissen für die Finanzstabilität.
Q-Learning-Algorithmen zeigten eine hohe Koordinationsfähigkeit, neigten aber zu extremen, Bank-Run-ähnlichen Dynamiken.
LLMs hingegen waren weniger anfällig für solche Runs, erzeugten jedoch ein heterogenes und unvorhersehbares Verhalten.
Hot Stove Effekt und divergierende Überzeugungen
Die exzessiven Rücknahmen bei Q-Learning-Algorithmen resultieren aus dem 'Hot Stove Effekt'.
Bei Ausfallrisiko reduziert jede negative Erfahrung den Wert des Investments und motiviert zur Rücknahme, selbst wenn dies kollektiv schädlich ist.
LLMs sind davon unberührt, da sie nicht aus wiederholten Auszahlungen lernen.
Ihre Unvorhersehbarkeit entsteht jedoch aus divergierenden 'Überzeugungen'.
Da die ökonomische Theorie für mittlere Fundamentaldaten oft keine eindeutige Vorhersage liefert, bilden die LLMs unterschiedliche Erwartungen über die Handlungen anderer Investoren – selbst bei identischen Anweisungen.
Dies führt zu mangelnder Koordination und unberechenbaren Ergebnissen.
Technologische Kompetenz gefragt
Die Studie beleuchtet eine entscheidende, oft übersehene Dimension des KI-Risikos in der Finanzwelt.
Sie unterstreicht, dass das Design von KI, nicht nur ihre Anwendung, die systemische Stabilität grundlegend verändern kann.
Regulatoren und Finanzinstitute müssen daher technologische Kompetenz und architektonisches Verständnis in Risikomanagement und Anlegerschutz integrieren, um diesen neuen Fragilitäten zu begegnen.