Healthcare AI kann nur die klinischen Ergebnisse verbessern, wenn es das Vertrauen der Ärzte gewinnt und den Patienten keinen Schaden zufügt. Dies wird von Daniel Yang, MD, Vizepräsident für KI und aufstrebende Technologien bei der achtstaatigen, 12,5 Millionen Mitglieder umfassenden Kaiser Permanente, verdeutlicht. Er betont die Notwendigkeit, klinisch erfolgreich zu sein, und erklärt, dass sie einen verantwortungsbewussten KI-Ansatz verfolgen, der darauf abzielt, Vertrauen aufzubauen und KI nur dann einzusetzen, wenn sie dazu beiträgt, hochwertige und erschwingliche Gesundheitsdienste zu liefern.
Yang fasst sieben Prinzipien zusammen, die das integrierte Versicherungs-/Anbietersystem leiten, wann immer es KI-Werkzeuge auf ihre mögliche Übernahme hin bewertet. Diese sind: 1. Privatsphäre, 2. Zuverlässigkeit, 3. Fokus auf Ergebnissen, 4. Transparenz, 5. Gerechtigkeit, 6. Kundenorientierung und 7. Vertrauen. Sie betonen die Bedeutung von Datenschutz, langfristiger Zuverlässigkeit, Ausrichtung von KI auf hochwertige und erschwingliche Versorgung, Transparenz im Umgang mit KI, Minimierung von Bias in KI-Werkzeugen, Kundenzentrierung und kontinuierliches Monitoring der Tools.
Yang ermutigt auch die Politik, sicherzustellen, dass Healthcare KI verantwortungsbewusst entwickelt und eingesetzt wird. Dies können sie tun, indem sie die Einführung von groß angelegten klinischen Studien unterstützen, Systeme zur Überwachung von KI-Tools in der klinischen Versorgung etablieren und unabhängige Qualitätssicherungstests von KI-Algorithmen unterstützen. Letztlich betont er die Bedeutung kontinuierlicher Forschung zur Evaluierung des Einflusses von KI in klinischen Umgebungen.