AIUC verlangt prüfbare Ausführungsbelege für KI im Finanzsektor
Die US-amerikanische AIUC hat eine Stellungnahme zu den KI-Empfehlungen des Finanzstabilitätsrats (FSB) eingereicht. Das Unternehmen fordert verbindliche Standards für autonome KI-Agenten sowie nachweisbare Ausführungsbelege statt bloßer Modellversprechen.
Prüfprotokolle statt KI-Denkpfade
In ihrer Konsultationsantwort zum FSB-Bericht warnt die Artificial Intelligence Underwriting Company (AIUC) vor trügerischer Sicherheit durch KI-generierte Denkpfade.
Statt sich auf unüberprüfbare interne Begründungen der Modelle zu verlassen, müssen Finanzinstitute nachweisbare Ausführungsberichte führen.
Dazu zählen protokollierte Eingaben, API-Aufrufe, zugewiesene Rechte sowie menschliche Freigaben.
Zusätzlich empfiehlt AIUC eine einheitliche Taxonomie für KI-Vorfälle und Beinahe-Unfälle.
Nur so lassen sich systemische Konzentrationsrisiken bei weit verbreiteten KI-Modellen und gemeinsamen Infrastrukturen wirksam überwachen.
Zudem sollten Institute konkrete Risikoindikatoren für autonome Agentensysteme erfassen.
Einsatzumgebung entscheidet über Sicherheit
AIUC betont, dass Zertifikate von Modellanbietern eine eigene Prüfung im spezifischen Betriebsumfeld einer Bank nicht ersetzen können.
Für wesentliche oder risikoreiche KI-Anwendungen fordert der Standardentwickler einen verhältnismäßigen Prüfungslebenszyklus.
Dieser muss mit einer dokumentierten Freigabeentscheidung enden und durch unabhängige Kontrollinstanzen abgesichert werden.
Verändern sich Modellversionen, Prompts oder Zugriffsrechte, müssen Institute gezielte Neubewertungen durchführen.
Eigeninteresse schadet der Sache nicht
Der Vorstoß von AIUC trifft den wunden Punkt der aktuellen KI-Regulierung.
Obwohl die Firma kommerzielle Eigeninteressen verfolgt, ist die Absage an bloße Herstellerzertifikate fachlich vollkommen richtig.
Ohne prüfbare Ausführungsprotokolle im realen Bankbetrieb bleiben alle Aufsichtsregeln reine Makulatur.