KI-Datennutzung in Finanzdienstleistungen: Aufsichtsansätze und Herausforderungen

Fortschrittliche KI-Formen, insbesondere generative KI (GenAI), sind in allen Phasen ihres Lebenszyklus auf immense und vielfältige Datenmengen angewiesen.

Daten sind entscheidend für das Training von GenAI-Modellen, die Leistungsbewertung, die Identifizierung von Verzerrungen und die Verfeinerung von Outputs.

Mit der zunehmenden Integration dieser Systeme in zentrale Aktivitäten von Finanzinstituten – wie Einlagengeschäft, Kredit- und Versicherungsprüfung sowie Zahlungsverkehr – wird ein solides Datenmanagement unerlässlich.

Dies dient nicht nur der Gewährleistung zuverlässiger und vertrauenswürdiger KI-Anwendungen, sondern auch der Aufrechterhaltung des Vertrauens in das Finanzsystem.

Trotz der transformativen Potenziale identifiziert der Finanzsektor Datenmanagement-Probleme konsistent als erhebliche Hürden für eine breitere GenAI-Adoption.

Ein langjähriges Problem ist die Inkompatibilität zahlreicher Datenquellen, die oft fragmentierte Informationen enthalten und historisch zu inkonsistenter Datenqualität führten.

Die Skalierung von GenAI verstärkt diese Schwächen und führt neue Herausforderungen ein, etwa durch die wachsende Nutzung synthetischer und alternativer Daten.

Besonders drängend sind Bedenken hinsichtlich Datenschutz, Datenqualität und -sicherheit, die durch Abhängigkeiten von Drittanbietern noch verschärft werden.

Diese Mängel können Risiken für den Verbraucherschutz sowie mikro- und makroprudenzielle Schwachstellen erhöhen und die erwarteten Vorteile von GenAI im Finanzsektor untergraben.

Der Datenschutz hat bereits vor dem Aufkommen der KI erhebliche Aufmerksamkeit erhalten und ist international weitgehend reguliert.

Dennoch bleibt die Anwendung von Datenschutzprinzipien auf KI eine Herausforderung, da sich deren Zusammenspiel ständig weiterentwickelt.

Als Reaktion darauf haben einige Datenschutzbehörden sektorübergreifende Leitlinien zur Anwendung von Datenanforderungen auf KI-Praktiken herausgegeben.

Diese Leitlinien bilden zusammen mit sektorübergreifenden Datenschutzrahmen die Grundlage für die Bewältigung KI-bezogener Datenrisiken im Finanzsektor.

Diese Rahmenwerke legen besonderen Wert auf die Datenprivatsphäre, verstanden als die Fähigkeit von Individuen, ihre persönlichen Daten zu kontrollieren.

Fortschrittliche KI-Systeme, die auf umfangreiche Mengen personenbezogener Daten angewiesen sind, können diese Kontrolle jedoch untergraben.

Die Einhaltung zentraler Datenschutzprinzipien – wie rechtmäßige Grundlage, aussagekräftige Einwilligung, Zweckbindung, Datenminimierung und Begrenzung der Speicherdauer – wird im Kontext von KI besonders komplex.

Auch Fairness und Transparenz stellen in der KI-Anwendung Schwierigkeiten dar.

Ebenso zentral ist die Datenqualität: Datenschutzrahmen betonen Datenrichtigkeit, Vollständigkeit und Repräsentativität, um die Verbreitung falscher Informationen zu verhindern.

KI-Rahmenwerke messen diesem Bereich ebenfalls kritische Bedeutung bei, da schlechte Datenqualität zu voreingenommenen oder schädlichen Outputs führen kann.

Während beide Rahmenwerke die Datenqualität betonen, unterscheiden sie sich im Ansatz: Statistische Genauigkeit in der KI basiert auf Wahrscheinlichkeiten und Vorhersagen, während Genauigkeit im Datenschutz erfordert, dass persönliche Daten korrekt und vollständig sind.

Die Datensicherheit – umfassend Vertraulichkeit, Integrität und Verfügbarkeit – ist ein weiterer Kernaspekt von Datenschutzrahmen.

Organisationen sind verpflichtet, robuste Sicherheitsmaßnahmen zu implementieren, um Daten in Informations- und Kommunikationstechnologie (IKT)-Systemen zu schützen, was in KI-Umgebungen angesichts des Umfangs und der potenziellen Sensibilität der verarbeiteten Daten besonders wichtig ist.

Datenlecks in solchen Kontexten können zu finanziellen Verlusten, Reputationsschäden und rechtlichen Konsequenzen führen.

Darüber hinaus sind starke Datensicherheitsmaßnahmen unerlässlich für die Aufrechterhaltung der operativen Resilienz.