Dr. Leith States, Chief Medical Officer beim US Department of Health and Human Services, beschrieb generative KI als ein Werkzeug, das potenziell auf verschiedene Herausforderungen im öffentlichen Gesundheitssystem angewendet werden könnte. Er äußerte jedoch Bedenken hinsichtlich des Mangels an Governance in den USA. Obwohl es eine Bewegung gegeben hat, um die Nutzung voranzubringen, gab es laut States keinen gezielten Ansatz, um die Technologie zu regulieren. Im Oktober 2023 veröffentlichte das Weiße Haus eine Executive Order zur Verwendung von KI. States bezeichnete dieses Dokument als sehr vorschriftsgemäß und abgehoben, lobte jedoch, dass das HHS Grundsätze der Order übernommen und eine KI-Arbeitsgruppe und ein Playbook erstellt hat.
Patricia MacTaggart, Lehrbeauftragte und Programmleiterin an der George Washington University, verglich die Einführung von KI im Gesundheitswesen mit der Einführung von elektronischen Gesundheitsakten. Sie empfahl, ein Rahmenwerk für Diskussionen über KI zu schaffen, um der Branche zu helfen, Gespräche über die Implementierung zu führen, egal ob die Nutzung für die Patientenbindung, klinische Abläufe oder Verwaltungseffizienz gedacht ist. Datenqualität und Transparenz wurden als Schlüsselfaktoren für erfolgreiche generative KI hervorgehoben. Coley betonte, dass eine solide Dateninfrastruktur notwendig sei, um erfolgreiche KI in der Gesundheitsbranche zu ermöglichen. Heisey-Grove empfahl, dass Organisationen ihre eigenen Wissensdatenbanken aufbauen und ihre eigenen Daten für große Sprachmodelle bereitstellen, damit sie die richtigen Arten von Antworten geben können. Heisey-Grove schlug auch vor, dass ein Mensch die Ergebnisse überprüft.
Es wird betont, dass KI-Tools im Gesundheitswesen möglicherweise nicht viel Einblick in den Datensatz haben, auf dem das Modell trainiert wurde. Die Branche wird dazu aufgefordert, mehr Fragen zu stellen und mehr Transparenz einzufordern. Es wird auch empfohlen, dass ein Mensch die Ergebnisse überprüft, da man der KI allein noch nicht vertrauen kann. Es wird darauf hingewiesen, dass, obwohl dies größere kulturelle Probleme oder Voreingenommenheiten nicht löst, es denjenigen, die mit der KI interagieren, ermöglicht zu wissen, welche Daten involviert sind und welche fehlen. Heisey-Grove betonte, dass dies wichtige Schritte sind, um sicherzustellen, dass KI im Gesundheitswesen verantwortungsbewusst eingesetzt wird.