In den letzten 2 Monaten haben zwei wissenschaftliche Artikel das Internet im Sturm erobert. Sie waren nicht schockierend gut geschrieben, noch hoben sie bahnbrechende Wissenschaft hervor. Stattdessen fesselten die Autoren und die Öffentlichkeit gleichermaßen die offensichtliche Verwendung von künstlicher Intelligenz. Diese Fehler machen uns bei Chemie & Engineering News (C&EN) nachdenklich, wie KI in die Zukunft der Chemie passt.
KI ist ein leistungsstarkes Werkzeug, das Chemiker seit Jahrzehnten nutzen. Früher verwendeten Forscher vor 50 Jahren einfache maschinelle Lernprogramme für die Arzneimittelforschung. Heutzutage können fortgeschrittenere Versionen die 3D-Strukturen von Proteinen vorhersagen. Eines Tages könnte KI das Fundament ganzer Labors sein. Doch Chemiker könnten in Schwierigkeiten geraten, wenn wir nicht zuerst einige Grundregeln festlegen.
Es gibt grob drei Klassen von KI-Modellen: diskriminative, prädiktive und generative. Das erste Modell ist einfach und lernt einfach, zwischen verschiedenen Datentypen zu unterscheiden. Die Ergebnisse hängen von der Qualität der Trainingsdaten ab, sodass Modelle anfällig für Bias sind. Sowohl prädiktive als auch generative KI-Modelle gehen einen Schritt weiter, indem sie Daten sortieren und dann Trends innerhalb der Daten identifizieren und lernen.
Ein herausragendes Problem ist, dass beide Algorithmentypen unter Halluzinationen leiden – sie erfinden Dinge auf der Grundlage von Trends. Dies ist nicht nur für Wissenschaftler auf der Suche nach neuen Arzneimittelkandidaten beunruhigend, sondern auch für überlastete Pädagogen problematisch. Wenn Studierende ChatGPT um Antworten bitten, könnten sie fehlgeleitet werden.
Dies bedeutet nicht, dass KI keinen Platz in der Chemie hat. Während KI-Algorithmen immer anspruchsvoller werden und mehr in unserem Leben sowohl im Labor als auch außerhalb des Labors eine Rolle spielen, wäre die Chemiegemeinschaft gut beraten, ethische und rationale Richtlinien für ihre Verwendung festzulegen. Wenn wir das Versprechen von KI annehmen wollen, um unsere Laborbelastungen zu lindern und Entdeckungen zu beschleunigen, müssen wir auch die Kopfschmerzen bei der Festlegung neuer Regeln für eine neue Technologie in Kauf nehmen.