Es besteht das Risiko von Voreingenommenheit. KI-Modelle können auf Datensätzen trainiert sein, die möglicherweise nicht die Bevölkerungen widerspiegeln, auf die sie angewendet werden sollen, was gesundheitliche Ungleichheiten aufgrund von Dingen wie Geschlecht oder Ethnizität verschärft. Daher ist die Regulierung entscheidend. Sie muss die Sicherheit der Patienten gewährleisten und ihre persönlichen Daten schützen, während gleichzeitig die Kapazität erhöht wird, um mit Entwicklungen Schritt zu halten und KI zu ermöglichen, sich weiterzuentwickeln und im Job zu lernen. KI-gesteuerte medizinische Geräte unterliegen der strengen Regulierung durch die Medicines and Healthcare products Regulatory Agency (MHRA). Die Denkfabrik Health Foundation veröffentlichte kürzlich eine sechs Punkte umfassende nationale Strategie, um sicherzustellen, dass KI-Tools fair eingeführt werden und die Regulierung aktualisiert wird.
Nell Thornton, Improvement Fellow bei der Health Foundation, sagt: “Es gibt so viele dieser Modelle, die durch das System kommen, dass es schwierig ist, sie schnell genug zu bewerten. Daher benötigen wir Unterstützung, um die Kapazität des Systems zu regulieren und auch einige Herausforderungen anzugehen, die aus der Eigenart von generativen KI-Systemen und der zusätzlichen Regulierung resultieren könnten, die sie benötigen könnten.” Dr. Paul Campbell, Leiter Software und KI bei der MHRA sagt: “Als Regulierungsbehörde müssen wir angemessene Aufsicht gewährleisten, um die Sicherheit der Patienten zu schützen und gleichzeitig die Agilität zu wahren, die erforderlich ist, um auf die besonderen Herausforderungen dieser Produkte zu reagieren, um sicherzustellen, dass wir weiterhin ein Innovationen ermöglicher sind.”
Das Gesundheits- und Sozialministerium sagt, dass die neue Labour-Regierung “die Kraft der KI nutzen” wird, indem sie neue KI-fähige Scanner beschafft, um Patienten frühzeitig zu diagnostizieren und schneller zu behandeln. Obwohl niemand die transformative Wirkung der KI im Gesundheitswesen leugnen kann, gibt es Herausforderungen zu überwinden, insbesondere dass das NHS-Personal das Selbstvertrauen haben muss, es zu verwenden, und die Patienten darauf vertrauen müssen.