Das Stanford Institute for Human-Centered AI, auch bekannt als “Stanford HAI”, hat 55 Meinungsführer hinter verschlossenen Türen befragt und festgestellt, dass nur 12% der Befragten glauben, dass KI im Gesundheitswesen immer von einem Menschen überwacht werden sollte. Eine starke Mehrheit von 58% gab den Organisatoren zu verstehen, dass menschliche Aufsicht nicht erforderlich ist, solange Schutzmaßnahmen vorhanden sind. Eine beträchtliche Minderheit von 31% nahm eine gemäßigte Position ein und unterstützte menschliche Überwachung “meistens, mit wenigen Ausnahmen”.
Das Gesundheits-KI-Politiklenkungskomitee des HAI versammelte die ausgewählte Gruppe für einen Workshop nach der Chatham House Rule im Mai. Unter den 55 Teilnehmern waren führende Politiker, Wissenschaftler, Gesundheitsdienstleister, Ethiker, KI-Entwickler und Patientenvertreter. Das Ziel der Organisatoren war es, dringende AI-Politiklücken zu identifizieren und Unterstützung für Änderungen in der KI-Regulierung zu mobilisieren. Die Teilnehmer diskutierten Mängel in der bundesstaatlichen Gesundheits-KI-Politik und erörterten durchführbare Lösungen in drei Schlüsselanwendungsfällen.
Im ersten Anwendungsfall, KI in Software als medizinisches Gerät, schlugen die Workshop-Teilnehmer neue politische Ansätze vor, um die Marktzulassung für diese multifunktionalen Softwaresysteme zu vereinfachen und gleichzeitig die klinische Sicherheit zu gewährleisten. In Bezug auf den zweiten Anwendungsfall, KI in Unternehmenskliniken und Verwaltung, wurden verschiedene Meinungen zur menschlichen Überwachung zur Sicherstellung der Sicherheit und Zuverlässigkeit diskutiert. Im dritten Anwendungsfall, patientennahe KI-Anwendungen, wurden Bedenken hinsichtlich der Regulierung und Sicherheit von Anwendungen angesprochen, die medizinische Informationen an Patienten weitergeben.
Zusätzlich zu den Diskussionen aus dem Workshop ergaben Blitzumfragen, dass die Mehrheit der Teilnehmer der Meinung ist, dass Healthcare-KI-Anwendungen wie medizinische Fachkräfte geregelt werden sollten. Ein Teil der Befragten sprach sich dafür aus, dass effektive Governance von Healthcare-KI erhebliche Änderungen an den bestehenden Vorschriften erfordern wird. Ein anderer Teil war der Ansicht, dass ein neuartiger regulatorischer Rahmen erforderlich sei. Ein Teilnehmer verglich die Regulierung des Gesundheits-KI mit dem Fahren eines alten Autos auf modernen Straßen aus dem Jahr 2024 und betonte die Notwendigkeit, traditionelle Regulierungsmuster an die rasante Entwicklung von KI anzupassen.