Große Sprachmodelle wie ChatGPT und andere Formen der künstlichen Intelligenz gestalten schnell die Welt um. Doch in vielen Fällen prägen diese Systeme eine Sichtweise, die auf den in dem Material, oft riesigen Mengen von Internetdaten, gefundenen Vorurteilen und Annahmen beruht, das zu ihrer Schulung verwendet wurde. Darüber hinaus bestehen erhebliche Bedenken hinsichtlich der Datenschutzimplikationen, die sich ergeben, wenn diese Modelle auf große Mengen persönlicher Daten trainiert werden, sowie Fragen zur Robustheit und Zuverlässigkeit, wenn sie auf wichtige reale Szenarien angewendet werden.
An der University of Wisconsin-Madison lernen Bachelor-Studierende der Ingenieurwissenschaften, wie sie diese Probleme im Rahmen des Kurses ECE/ISYE 570: Ethik für Daten-Ingenieure beheben können, der der abschließende Kurs für das Bachelorzertifikat in Ingenieurdatenanalytik ist. Der Kurs wird von Kangwook Lee, einem Assistenzprofessor für Elektro- und Computertechnik mit Erfahrung in großen Sprachmodellen und vertrauenswürdigen maschinellen Lernverfahren, konzipiert und geleitet.
In diesem Kurs betrachten die Studierenden nicht die Ethik im Sinne von Plato oder diskutieren Philosophie. Stattdessen tauchen sie in Gleichungen und Programmcodes ein, um zu lernen, wie Ingenieure den ethischen Einsatz von Daten für maschinelles Lernen und künstliche Intelligenz sicherstellen können. Neben der Genauigkeit sollten Ingenieure laut Lee auch darauf achten, ob die Modelle voreingenommen sind, ob Datenschutzkompromisse bestehen und ob sie sich zuverlässig wie geplant verhalten.
Während der Kurs in den ersten zwei Dritteln des Semesters stark theoretisch ist, erleben die Studierenden auch mehr praxisnahe, projektbasierte Lernkomponenten im letzten Drittel, um die ethischen Grundsätze, die sie gelernt haben, auf praktische Herausforderungen im Bereich Datenengineering anzuwenden. Individuell sollen die Studierenden ihr eigenes großes Sprachmodell (LLM) erstellen und Algorithmen implementieren, um Fairness, Datenschutz und Zuverlässigkeit zu verbessern.
Lee sagt, dass sich der Bereich der KI und des maschinellen Lernens schnell entwickelt und der Wert des Kurses bleibt auch dann relevant, wenn sich die Details im Laufe der Zeit ändern. Er ermutigt die Studierenden, sich der Herausforderung direkt zu stellen und Probleme mit Fairness nicht nur oberflächlich zu beheben, sondern Systeme zu entwickeln, die von Anfang an nicht defekt sind. Lee fordert dazu auf, diese Probleme verantwortungsbewusst zu lösen, anstatt nur oberflächliche Maßnahmen zu ergreifen. Lücken oder Mängel könnten sich sonst in verschiedenen Szenarien bemerkbar machen.