Eine Forschungsarbeit von Forschern der School of Computer Science der Carnegie Mellon University hebt drei häufige Fallstricke bei der Interpretation von maschinellem Lernen in biologischen Kontexten hervor und zeigt auf, wie diese Fallstricke vermieden werden können. Maschinelles Lernen ist ein leistungsfähiges Werkzeug in der computationalen Biologie, das die Analyse einer Vielzahl von biomedizinischen Daten wie genomischen Sequenzen und biologischen Bildern ermöglicht. Bei der Verwendung von maschinellem Lernen in der computationalen Biologie ist es jedoch entscheidend, das Verhalten des Modells zu verstehen, um die zugrunde liegenden biologischen Mechanismen in Gesundheit und Krankheit aufzudecken.
In einem Artikel in Nature Methods schlagen die Forscher Richtlinien vor, die Fallstricke und Möglichkeiten bei der Verwendung interpretabler maschineller Lernmethoden zur Bewältigung von Problemen in der computationalen Biologie umreißen. Die Zusammenarbeit zwischen Valerie Chen und Muyu (Wendy) Yang aus dem Machine Learning Department und dem Computational Biology Department der Carnegie Mellon University besteht aus Doktoranden sowie dem Ray and Stephanie Lane Professor of Computational Biology, Jian Ma.
Ein wichtiger Fallstrick, den das Papier anspricht, ist die Überrelianz auf eine einzelne interpretierbare maschinelle Lernmethode. Stattdessen empfehlen die Forscher den Einsatz mehrerer interpretierbarer maschineller Lernmethoden mit verschiedenen Hyperparametern und den Vergleich ihrer Ergebnisse, um ein umfassenderes Verständnis des Modellverhaltens und seiner zugrunde liegenden Interpretationen zu erhalten. Das Papier warnt auch davor, Ergebnisse gezielt auszuwählen, um Interpretabilitätsergebnisse zu bewerten, da dies zu unvollständigen oder voreingenommenen Interpretationen wissenschaftlicher Erkenntnisse führen kann.
Die Forscher hoffen, dass diese Herausforderungen weitere interdisziplinäre Zusammenarbeiten anregen und die breitere Anwendung von KI für wissenschaftliche Zwecke erleichtern. Die Autoren hoffen, dass die vorgeschlagenen Richtlinien auch für ein breiteres Publikum von Forschern relevant sind, die daran interessiert sind, interpretierbare maschinelle Lernmethoden in ihrer Arbeit anzuwenden.