Künstliche Intelligenz-Anwendungen werden im Bereich der Gesundheitsversorgung immer häufiger eingesetzt. Eine neue Studie, veröffentlicht in Nature, hat eine systematische Analyse der ethischen Landschaft im Zusammenhang mit der Verwendung und Anwendung großer Sprachmodelle in der Medizin und Gesundheitsversorgung durchgeführt. Die Studie ergab, dass während LLMs zahlreiche Vorteile im Bereich der Datenanalyse, unterstützende Entscheidungsfindung und Informationszugänglichkeit haben, Fragen der Fairness, des Bias und der Fehlinformation nach wie vor von zentraler Bedeutung sind.
Tatsächlich haben sich die Technologie der künstlichen Intelligenz und der Einsatz von LLMs im Gesundheitswesen exponentiell entwickelt, insbesondere durch die rapide Entwicklung der Technologie in den letzten zwei Jahren. Obwohl der Start von Chat GPT viel dieser Arbeit vorangetrieben hat, ist die Forschung zu LLMs und die allgemeine Integration von KI in branchenspezifische Anwendungsfälle seit Jahrzehnten präsent.
Technologieexperten, Datenschutzbeauftragte und Branchenführer äußern Bedenken über die schnelle Entwicklung dieser Arbeit, der die regulatorischen Organe einfach nicht folgen können. Daher versuchen Organisationen und Führungskräfte, Rahmenbedingungen zu entwickeln, um die Entwicklung und ethischen Feinheiten für branchenspezifische Anwendungsfälle zu lenken. Ein Beispiel ist die Coalition for Health AI, auch bekannt als CHAI, die darauf abzielt, “Richtlinien und Schutzmaßnahmen” zu entwickeln, um hochwertige Gesundheitsversorgung zu fördern, indem die Übernahme glaubwürdiger, fairer und transparenter Gesundheits-KI-Systeme gefördert wird. Ein weiteres Beispiel ist das Trustworthy & Responsible AI Network (TRAIN), geleitet von Microsoft und europäischen Organisationen, um ethische KI-Prinzipien zu operationalisieren und ein Netzwerk zu schaffen, in dem bewährte Verfahren bezüglich der Technologie ausgetauscht werden können. Die hohe Investition und die Ressourcen, die in solche Initiativen gesteckt werden, zeigen, wie wichtig diese Agenda geworden ist.
Der Grund für diese Betonung ist fundiert, insbesondere im Kontext von Gesundheitsanwendungsfällen. KI im Gesundheitswesen bietet erhebliches Potenzial, um Workflows zu erleichtern, bei entscheidungsgetriebener Erkenntnisfindung zu helfen, neue Methoden der Interoperabilität zu fördern und sogar den Einsatz von Ressourcen und Zeit effizienter zu gestalten. Allerdings ist die Arbeit an diesen Anwendungen noch relativ in den Anfängen. Darüber hinaus werden LLMs in Bezug auf die Datenqualität oft nur so effektiv wie die Datensätze und Algorithmen, mit denen sie trainiert werden. Innovatoren müssen daher ständig sicherstellen, dass die Schulungsdaten und -methoden, die verwendet werden, von höchster Qualität sind. Darüber hinaus müssen die Daten relevant, aktuell, frei von Bias und durch legitime Referenzen gestützt sein, damit die Systeme weiter lernen können, während sich Paradigmen entwickeln und neue Daten auftauchen. Selbst unter diesen einwandfreien Schulungsbedingungen und bei Erfüllung all dieser Kriterien können KI-Systeme häufig Halluzinationen, oder die Erzeugung von Inhalten, die als wahr dargestellt werden, aber oft ungenau sind, produzieren. Für einen Endbenutzer ohne bessere Informationsquelle können diese Halluzinationen nachteilig sein – und im Kontext des Gesundheitswesens zu einem erheblichen Problem werden.
Daher ist der zunehmende Fokus auf ethische KI und die Entwicklung von Richtlinien für KI entscheidend dafür, diese revolutionäre Technologie zu kultivieren und letztendlich entscheidend, um ihr Potenzial und ihren Wert auf sichere und nachhaltige Weise wirklich zu entfalten.