Die rasche Verbreitung von künstlicher Intelligenz (KI) im Banken- und Finanzdienstleistungssektor hat zu einer verstärkten regulatorischen Überprüfung und neuen rechtlichen Herausforderungen geführt. Dieses Papier untersucht aktuelle Entwicklungen und bietet rechtlichen Risikomanagern Anleitung bei der Navigation durch dieses sich entwickelnde Umfeld.
In Bezug auf Finanzdienstleistungen konzentriert sich der im Oktober 2023 veröffentlichte Executive Order auf Verbraucherschutz, Datenbias, Finanzmodelle und KI-Governance. Der Executive Order betont den Schutz der Verbraucher vor Betrug, Diskriminierung und anderen Schäden durch KI, insbesondere im Bereich der Finanzdienstleistungen. Er fordert von Finanzinstituten angemessene Maßnahmen zur Bewältigung von KI-spezifischen Cybersicherheitsrisiken und zur Vermeidung von Bias und Diskriminierung.
Zwar fehlt den USA eine umfassende KI-Gesetzgebung, aber Bundesregulierungsbehörden haben Leitlinien veröffentlicht, darunter gemeinsame Erklärungen über KI-Bias und die Durchsetzung von Diskriminierungs- und Fairnessgesetzen. Die Securities and Exchange Commission (SEC) hat sich auf die Bekämpfung von Anleger-Risiken aus Interessenkonflikten im Zusammenhang mit der Verwendung von KI durch Broker-Dealer und Anlageberater konzentriert und rechtliche Schritte gegen irreführende Aussagen zu KI-Nutzung eingeleitet.
Die EU hat mit dem vorgeschlagenen AI Act einen umfassenden regulatorischen Rahmen für KI-Systeme geschaffen, der als Leitfaden für US-Regulierungs- und Rechtsrahmen dienen könnte. Internationale Standards und Rahmenwerke wie das AI Risk Management Framework von NIST spielen ebenfalls eine wichtige Rolle bei der Bewältigung von KI-Risiken.
Schlüsselrechtsrisiken im Zusammenhang mit KI umfassen Bias und Diskriminierung, Datenschutz, Transparenz und Erklärbarkeit, Haftung und Verantwortlichkeit sowie geistiges Eigentum. Rechtsrisikomanager werden dazu angehalten, robuste KI-Governance-Frameworks zu implementieren, Model Risk Management zu verbessern, Fairness und Bias-Minderung zu priorisieren, Transparenz und Erklärbarkeit sicherzustellen, die Datenverwaltung zu stärken und kontinuierlich informiert und engagiert zu bleiben.
Zusammenfassend müssen Rechtsrisikomanager angesichts der steigenden Bedeutung von KI in den Finanzdienstleistungen proaktiv auf die sich abzeichnenden Herausforderungen reagieren. Durch die Implementierung robuster Governance-Frameworks, die Priorisierung von Fairness und Bias-Minderung, die Gewährleistung von Transparenz und Erklärbarkeit, die Stärkung der Datenverwaltung und durch kontinuierliche Schulungen und enge Zusammenarbeit über Funktionen hinweg können Finanzinstitute die Vorteile von KI nutzen und rechtliche sowie Reputationsrisiken minimieren.