Der entwicklungs- und kommerzialisierungsbasierte AI-Entscheidungssysteme wurden in der Forschung als “AI-Kluft” identifiziert. Dieses Phänomen wurde durch das Übertreffen des Fortschritts im Bereich der AI-Technologie im Vergleich zu unserem Verständnis für ihren Wert für Kliniker und ihren Einfluss auf menschliche Entscheidungsprozesse hervorgerufen. Die Universität von Adelaide hat in einem Artikel in The Lancet Digital Health, der von der Studentin Lana Tikhomirov, Professor Carolyn Semmler und einem Team von der Australian Institute for Machine Learning verfasst wurde, externe Forschungsergebnisse herangezogen, um den Unterschied zwischen AI-Technologie und Klinikern zu untersuchen.
Die Forschungsergebnisse zeigen, dass Kliniker kontextabhängige, geistig ressourcenreiche Entscheidungsträger sind, während AI-Modelle Entscheidungen ohne Kontext oder Verständnis für Korrelationen in Daten und Patienten treffen. Die Fähigkeit, domänenspezifische Informationen zu verwenden, wird als Hinweisnutzung bezeichnet und ist ein Merkmal der Expertise, das Kliniker befähigt, schnell die wesentlichen Merkmale aus der klinischen Umgebung zu extrahieren und dabei äußerst genau zu bleiben. Dies steht im Gegensatz zu AI-Modellen, die nicht in der Lage sind, ihre Datensätze in Frage zu stellen, wie es Kliniker in der klinischen Praxis tun, was als epistemische Bescheidenheit bezeichnet wird.
Der Artikel spricht sich dafür aus, AI-Technologie eher wie ein klinisches Arzneimittel als wie ein Gerät zu verwenden, um die Komplexität und Kontextabhängigkeit klinischer Entscheidungsprozesse besser zu berücksichtigen. Die klinische Umgebung bietet viele sensorische Hinweise, die zur Diagnose verwendet werden, selbst wenn sie für den unerfahrenen Beobachter unbemerkt bleiben. Die Forschung unterstreicht die Bedeutung von kontextuell verankerten klinischen Entscheidungsprozessen, die die menschliche Expertise in der Medizin hervorheben und auf die Erkenntnisse aus der AI-Technologie aufbauen, um eine optimale Patientenversorgung zu gewährleisten.