Im Jahr 2017 besuchte Savannah Thais die NeurIPS-Maschinenlernkonferenz in Long Beach, Kalifornien, in der Hoffnung, Techniken für ihre Doktorarbeit zur Elektronenidentifikation zu lernen. Dort hörte sie einen Vortrag von KI-Forscherin Kate Crawford über Bias in maschinellem Lernen und wurde mit einer neuen Studie konfrontiert, die zeigte, dass die Gesichtserkennungstechnologie geschlechts- und rassenbezogene Vorurteile aufgrund unvollständiger Datensätze aufwies. Thais kehrte nach Hause zurück und begann sich für die ethischen Implikationen von künstlicher Intelligenz in Wissenschaft und Gesellschaft zu interessieren.
In der traditionellen Computermodellierung gibt der Mensch dem Programm die Parameter vor, die es für Entscheidungen benötigt. Im Gegensatz dazu lernen maschinelle Lernalgorithmen ihre eigenen Parameter aus den ihnen gegebenen Daten. Thais und andere Physiker betrachten die Wechselwirkung zwischen Ethik und Algorithmus in der Physik kritisch, da algorithmischer Bias die Physik-Ergebnisse beeinflussen kann, insbesondere wenn maschinelles Lernen unangemessen eingesetzt wird.
Brian Nord, ein Kosmologe bei Fermilab, verwendet seit 2016 maschinelles Lernen für die Klassifizierung von Objekten, die von Teleskopen beobachtet werden. Maschinelles Lernen kann Sterne und Galaxien in Bildern besser identifizieren als ein Mensch. Nord warnt jedoch davor, dass die Verwendung von maschinellem Lernen für Physikzwecke oft weniger vertrauenswürdig ist, da die Anzahl der Parameter die Fähigkeit der Physiker einschränkt, Fehler zu korrigieren.
Die Ethik von AI kann Physikern dabei helfen, besser zu verstehen, wie und wo maschinelles Lernen eingesetzt werden kann. Physiker haben die Möglichkeit, die Wissenschaft des maschinellen Lernens zu verbessern, indem sie ethische Rahmenbedingungen einführen. Thais betont die Notwendigkeit, Ethik in das Denken der Physiker zu integrieren, um Bias in Modellen zu vermeiden und die gesellschaftliche Akzeptanz von maschinellem Lernen zu fördern.