Bailey verlangt Modelltests vor KI-Regulierung
Vor neuen Regulierungsgesetzen müssen Aufsicht und Gesellschaft die Kontrollfähigkeit über fortgeschrittene KI-Systeme sichern, fordert BoE-Gouverneur Andrew Bailey. Systematische Modelltests vor und nach der Inbetriebnahme seien der notwendige erste Schritt gegen Finanzstabilitätsrisiken.
Das Risiko des geschlossenen Regelkreises
Fortgeschrittene KI unterscheidet sich von bisheriger Software durch rekursives Lernen: Die Modelle nutzen ihre eigenen Resultate, um sich kontinuierlich zu verfeinern.
Ohne externe Eingriffsmöglichkeiten drohen geschlossene Schleifen, in denen sich Algorithmen weitgehend selbst steuern.
BoE-Gouverneur Andrew Bailey warnt davor, voreilig bürokratische Gesetze zu debattieren, bevor der eigentliche Eingriffsbedarf definiert ist.
„Verstehen, Testen und die Etablierung glaubwürdiger Interventionspunkte müssen an erster Stelle stehen“, so Bailey.
Als zentralen Ansatz fordert er standardisierte Modelltests vor und nach dem Rollout.
Das britische AI Security Institute liefere dafür die technische Basis.
Gefahren für Zahlungsverkehr und Handelsagenten
Für die Bank of England berührt die Technologie unmittelbar die Finanzstabilität.
Spitzen-KI verstärkt das Ausmaß und die Raffinesse von Cyberangriffen auf Banken, Zahlungsnetzwerke und Marktinfrastrukturen erheblich.
Da Institute KI-Modelle künftig direkt im operativen Betrieb sowie für agentenbasierten Wertpapierhandel und Zahlungsabwicklungen einsetzen, reichen isolierte Schutzkonzepte nicht mehr aus.
Bailey verlangt daher einheitliche Standards, die aus praktischen Stresstests abgeleitet werden.
Pragmatismus mit Verfallsdatum
Baileys Fokus auf empirische Tests vor Paragrafen ist ein erfrischend pragmatischer Aufsichtsansatz.
Doch Labortests stoßen an Grenzen, sobald sich Modelle im Live-Betrieb durch rekursives Lernen verselbstständigen.
Ohne verbindliche Haftungsregeln bleibt die geforderte Kontrollfähigkeit ein frommer Wunsch.
Quelle: Frontier AI and the question of governance
IN: