Wege zur Regulierung von KI-Technologien im Gesundheitswesen

Wege zur Regulierung von KI-Technologien im Gesundheitswesen

Künstliche Intelligenz (KI) hat das Potenzial, die Gesundheitsversorgung durch verbesserte diagnostische Genauigkeit, effizientere administrative Abläufe und ein höheres Engagement der Patienten zu transformieren. Zwischen 2017 und 2021 erhielt der Gesundheitssektor weltweit mehr private Investitionen in KI als jeder andere Sektor, insgesamt 28,9 Milliarden US-Dollar. Die Begeisterung für diese neuen Technologien im Gesundheitswesen wird jedoch schon lange von Bedenken bezüglich der Patientensicherheit, schädlicher Voreingenommenheiten und Datenschutz begleitet. Regulierungsbehörden stehen vor der Herausforderung, innovative Werkzeuge zu fördern und gleichzeitig sichere, faire und zuverlässige maschinelle Lernalgorithmen innerhalb der Grenzen von regulatorischen Rahmenbedingungen zu erhalten, die in einer Ära von physischen Geräten, Papierakten und analogen Daten geschaffen wurden. Die rasche Integration von KI in die Prozesse im Gesundheitswesen erfordert daher eine dringende Überprüfung der bestehenden regulatorischen Rahmenbedingungen.

Um diese Lücke zu erkennen, versammelte das Stanford Institute for Human-Centered AI (HAI) im Mai 2024 eine Gruppe von 55 führenden Politikern, Wissenschaftlern, Gesundheitsdienstleistern, Ethikern, KI-Entwicklern und Patientenanwälten zu einem Workshop. Die Teilnehmer diskutierten Mängel in der bundesweiten KI-Gesundheitspolitik in den Bereichen klinische Entscheidungsunterstützung durch KI-Software, KI-Tools für klinische Betriebe und patientennahe KI-Anwendungen. Die Regulierungsrahmen in der Gesundheitsbranche sind veraltet und sollten an die heutige digitale KI-Entwicklung angepasst werden, um eine effektive Regulierung zu ermöglichen.

In der Diskussion über KI-Tools für die klinische Entscheidungsunterstützung wurde deutlich, dass Entwickler von KI-gesteuerten medizinischen Geräten Schwierigkeiten haben, die regulatorische Freigabe für jedes einzelne diagnostische Merkmal zu erhalten. Der Workshop schlug neue politische Ansätze vor, um die Marktzulassung solcher multifunktionalen Software-Systeme zu erleichtern und Sicherheit zu gewährleisten. Im Bereich der KI in Betriebsabläufen und Verwaltung klinischer Einrichtungen wurde die Frage aufgeworfen, ob ein menschlicher Eingriff bei der Integration autonomer KI-Tools in klinischen Einstellungen immer erforderlich ist. Bezüglich patientennaher KI-Anwendungen müssen dringend klare Regeln eingeführt werden, um sicherzustellen, dass diese Anwendungen keine schädlichen oder irreführenden medizinischen Informationen weitergeben.

Es wird deutlich, dass weitere Forschung und Diskussionen notwendig sind, um die Zukunft der KI-Regulierung im Gesundheitswesen zu gestalten. Das Stanford HAI und sein Healthcare AI Policy Steering Committee werden weiterhin in diesen Bereichen forschen, um politische und regulatorische Rahmenbedingungen zu unterstützen, die den sicheren, gerechten und effektiven Einsatz von Gesundheits-KI gewährleisten.