Die Implementierung von KI in die Finanz- und Controlling-Funktion birgt zahlreiche Risiken, die bei der Einführung von KI- und generativen KI-Technologien berücksichtigt werden müssen. Zu den aktuellen häufigsten Risiken gehören Datenschutz, regulatorische Zulässigkeit, Verstärkung von Voreingenommenheiten, sichere Verwendung, verantwortungsvolle Anwendungen, Souveränität und mangelnde Zertifizierungen. Diese Risiken können dazu führen, dass verschiedene Jurisdiktionen unterschiedliche Regeln haben oder zusätzliche Tests und Berichterstattungsanforderungen für KI-Modelle bestehen.
Es ist möglich, diese und andere Risiken im Zusammenhang mit KI durch die Implementierung eines Rahmenwerks und einer KI-Richtlinie zu managen. Es ist jedoch entscheidend, diese Risiken zu verstehen, um Governance-Mechanismen in die KI-Richtlinie zu integrieren. Datenschutz ist ein zentrales Thema, da KI-Modelle auf Datenfreigabe aufbauen und möglicherweise spezifische Einwilligungen für die Verwendung von Daten (vertrauliche Informationen, personenbezogene Daten) erfordern. Regulatorische Zulässigkeit ist ein weiteres Risiko, da die aufkommende und inkonsistente Regulierung in verschiedenen Jurisdiktionen unterschiedlich sein kann. Der Verstärkung von Voreingenommenheiten besteht das Risiko, dass die in den zugrunde liegenden Daten vorhandenen Voreingenommenheiten verstärkt werden, sobald die Modelle auf diesen Daten trainiert sind. Es ist auch wichtig, verantwortungsvolle Anwendungen zu entwickeln und sicherzustellen, dass KI-Modelle in Übereinstimmung mit den geltenden Bestimmungen eingesetzt werden.