Die Europäische Union (EU) hat am 13. März 2024 einen wichtigen Schritt zur Regulierung künstlicher Intelligenz (KI) unternommen, indem sie den AI Act verabschiedet hat. Der AI Act wurde erstmals im April 2021 von der Europäischen Kommission vorgeschlagen und resultierte aus der wachsenden Anerkennung des transformatorischen Potenzials von KI und der Notwendigkeit, damit verbundene Risiken und ethische Bedenken anzugehen. Dieser Schritt baut auf früheren Initiativen der EU auf, darunter der Koordinierungsplan für KI von 2018 und das Weißbuch über KI von 2020. Nachdem der Rat seine Position im Dezember 2022 veröffentlicht hatte, folgte das Europäische Parlament mit der Annahme seiner Verhandlungsposition im Juni 2023. Nach Überarbeitung des Entwurfs führten die abschließenden Verhandlungen zwischen Kommission und Rat zu einer vorläufigen Einigung im Dezember 2023, die im Februar 2024 von den Mitgliedstaaten gebilligt wurde.
Als weltweit erstes umfassendes rechtliches Rahmenwerk speziell für KI zielt der AI Act darauf ab, KI nach menschlichen Maßstäben und vertrauenswürdig zu fördern und gleichzeitig die Gesundheit, Sicherheit und grundlegenden Rechte der Einzelpersonen vor den potenziell schädlichen Auswirkungen von KI-fähigen Systemen zu schützen. Der Akt legt harmonisierte Regeln für das Inverkehrbringen, die Inbetriebnahme und den Einsatz von KI-Systemen fest und ist 20 Tage nach seiner Veröffentlichung im Amtsblatt der EU (am 12. Juli 2024) in allen EU-Mitgliedstaaten rechtsverbindlich, unabhängig von bestehenden nationalen Gesetzen und Richtlinien zu KI. Die meisten Bestimmungen der Verordnung treten innerhalb von 24 Monaten in Kraft, wobei Verbote, d.h. Verbote von KI-Anwendungen, die als inakzeptables Risiko eingestuft werden, bereits innerhalb von 6 Monaten in Kraft treten.
Der AI Act hat einen weitreichenden Geltungsbereich, der nicht nur den Binnenmarkt, sondern auch extraterritorial betrifft, da er für alle Anbieter von KI-Systemen auf dem EU-Markt gilt, unabhängig davon, wo sie niedergelassen oder ansässig sind. Darüber hinaus gilt der AI Act für Anbieter und Anwender von KI-Systemen in Drittländern, wenn die erzeugte Ausgabe in der Union verwendet wird. Insbesondere im Gesundheitswesen ist der AI Act von großer Bedeutung, da bestehende Harmonisierungsgesetze wie die Medizinprodukteverordnung oder die In-vitro-Diagnostika-Verordnung nicht explizit medizinische KI-Anwendungen abdecken. Es ist daher wichtig, dass alle Beteiligten im medizinischen KI-Sektor, einschließlich Entwicklern, Anbietern, Patienten und Praktizierenden, die komplexen Definitionen, Verpflichtungen und Anforderungen des AI Act verstehen, um sicherzustellen, dass KI sicher und verantwortungsbewusst eingesetzt wird, potenzielle Schäden zu vermeiden und letztendlich die Innovation im medizinischen KI voranzutreiben.