Künstliche Intelligenz (KI) hat praktisch unendliche Anwendungen im Gesundheitswesen, angefangen von der automatischen Erstellung von Patientennachrichten in MyChart bis hin zur Optimierung von Organtransplantationen und Verbesserung der Genauigkeit bei der Tumorentfernung. Trotz ihres potenziellen Nutzens für Ärzte und Patienten stoßen diese Tools auf Skepsis aufgrund von Bedenken hinsichtlich des Patientendatenschutzes, der Möglichkeit von Voreingenommenheit und der Genauigkeit der Geräte.
Als Reaktion auf den rasch zunehmenden Einsatz und die Zulassung von KI-Medizingeräten im Gesundheitswesen haben mehrere Institutionen, darunter die UNC School of Medicine, die Duke University, die Ally Bank, die Oxford University, die Columbia University und die University of Miami, ein Team von Forschern damit beauftragt, das öffentliche Vertrauen aufzubauen und zu evaluieren, wie genau KI- und algorithmische Technologien für die Anwendung in der Patientenversorgung zugelassen werden.
Zusammen haben Sammy Chouffani El Fassi, ein MD-Kandidat an der UNC School of Medicine und Forschungsstipendiat am Duke Heart Center, sowie Gail E. Henderson, PhD, Professorin am UNC Department of Social Medicine, eine gründliche Analyse von klinischen Validierungsdaten für über 500 medizinische KI-Geräte durchgeführt und festgestellt, dass ungefähr die Hälfte der von der US-amerikanischen Food and Drug Administration (FDA) zugelassenen Tools über keine berichteten klinischen Validierungsdaten verfügten. Diese Ergebnisse wurden in Nature Medicine veröffentlicht.
Obwohl die Hersteller von KI-Geräten mit der Glaubwürdigkeit ihrer Technologie durch die FDA-Zulassung werben, bedeutet die Genehmigung jedoch nicht, dass die Geräte ordnungsgemäß auf klinische Wirksamkeit mit Echtzeit-Patientendaten evaluiert wurden. Mit diesen Ergebnissen hoffen die Forscher, die FDA und die Industrie dazu zu ermutigen, die Glaubwürdigkeit der Gerätezulassung durch die Durchführung von klinischen Validierungsstudien zu stärken und die Ergebnisse solcher Studien öffentlich zugänglich zu machen.