Gesetzgeber auf beiden Seiten des Atlantiks rennen um die Einführung von Regulierungen für künstliche Intelligenz (KI), wobei Kalifornien kurz davor steht, über strenge KI-Aufsicht zu entscheiden, während der US-Kongress einen “regulatorischen Sandbox” für Finanzdienstleistungen in Betracht zieht. Gleichzeitig soll die EU-KI-Verordnung das Technologielandschaft im Gesundheitswesen verändern und zeigt die komplexe Balance zwischen Förderung von Innovation und Sicherstellung der öffentlichen Sicherheit bei der Verwendung von KI auf. In Kalifornien steht eine entscheidende Abstimmung über KI-Regulierungen bevor. Der Gesetzentwurf SB 1047 sieht vor, dass Unternehmen Sicherheitstests an KI-Systemen vor der Veröffentlichung durchführen müssen und gewährt dem Generalstaatsanwalt von Kalifornien das Recht, Unternehmen zu verklagen, deren Technologien schweren Schaden verursachen. Die vorgeschlagene Gesetzgebung hat heftige Diskussionen in Silicon Valley ausgelöst, da Befürworter die Notwendigkeit einer Sicherheitsmaßnahme gegen unkontrollierte KI-Verbreitung betonen, während Kritiker befürchten, dass dies die Innovation in einem Bereich behindern könnte, der für das zukünftige Wirtschaftswachstum als entscheidend angesehen wird.
Im US-Kongress wird derzeit ein neuer Gesetzentwurf diskutiert, der die Innovation im Bereich KI im Finanzsektor vorantreiben soll, indem “regulatorische Sandboxes” geschaffen werden, in denen Unternehmen unter erleichterter Regulierung mit KI-Technologien experimentieren können. Die „Unleashing AI Innovation in Financial Services Act“ soll Finanzinstituten vorübergehende Erleichterungen von bestimmten Vorschriften gewähren, wenn sie „AI-Testprojekte“ durchführen, die dem öffentlichen Interesse dienen und keine Systemrisiken oder Sicherheitsbedenken darstellen. Die Befürworter argumentieren, dass das Gesetz den Wettbewerbsvorteil der USA im Bereich Finanztechnologie erhalten wird, während Kritiker Bedenken hinsichtlich Verbraucherschutz und finanzieller Stabilität äußern.
Die AI-Verordnung der EU, die am 1. August in Kraft getreten ist, wird voraussichtlich den medizinischen KI-Sektor beeinflussen und hat das Ziel, eine “menschenzentrierte und vertrauenswürdige KI” zu fördern und gleichzeitig die öffentliche Gesundheit und Sicherheit zu schützen. Die Verordnung führt einen risikobasierten Ansatz ein und verbietet Methoden, die als “inakzeptabel” eingestuft werden, während sie strenge Anforderungen an Hochrisikosysteme stellt. Kritiker befürchten, dass die Verordnung die Innovation behindern könnte, insbesondere bei Startups und KMUs, während Befürworter die Notwendigkeit von Vorschriften zur Gewährleistung der Patientensicherheit betonen. Der EU-Gesetzgeber als globaler Vorreiter bei der KI-Regulierung stellt die Gesundheitstechnologiebranche vor große Herausforderungen, da Unternehmen sich auf diese neue Regulierungsumgebung vorbereiten müssen.