Ein Chatbot wird feindselig. Eine Testversion eines Roomba-Staubsaugers sammelt Bilder von Benutzern in privaten Situationen. Eine schwarze Frau wird fälschlicherweise als Verdächtige aufgrund von Gesichtserkennungssoftware identifiziert, die weniger genau bei der Identifizierung von Frauen und Personen mit Hautfarbe ist.
Diese Vorfälle sind nicht nur Fehler, sondern Beispiele für grundlegendere Probleme. Mit der zunehmenden Integration von künstlicher Intelligenz und maschinellem Lernen in das tägliche Leben wachsen ethische Überlegungen, von Datenschutzfragen und rassistischen und geschlechtsspezifischen Vorurteilen in der Codierung bis hin zur Verbreitung von Fehlinformationen.
Die breite Öffentlichkeit ist darauf angewiesen, dass Software-Ingenieure und Informatiker sicherstellen, dass diese Technologien sicher und ethisch erstellt werden. Als Soziologe und Doktorand, der sich für die Bildung in den Bereichen Naturwissenschaften, Technik, Ingenieurwesen und Mathematik interessiert, forschen wir derzeit darüber, wie Ingenieure in vielen verschiedenen Bereichen lernen und verstehen, welche Verantwortung sie gegenüber der Öffentlichkeit haben.
Trotz unserer aktuellen Forschung und der anderer Wissenschaftler deutet vieles darauf hin, dass die nächste Generation von Ingenieuren oft nicht darauf vorbereitet ist, mit den sozialen Auswirkungen ihrer Arbeit umzugehen. Einige scheinen sich sogar gleichgültig gegenüber den moralischen Dilemmata zu zeigen, die ihre Karrieren mit sich bringen könnten, gerade jetzt, da Fortschritte in der KI solche Dilemmata verstärken.
Als Teil unserer laufenden Forschung haben wir über 60 Masterstudenten der Elektrotechnik und Informatik an einem führenden Ingenieurprogramm in den USA interviewt. Die Studenten erkannten die potenziellen Gefahren der KI und äußerten Besorgnis über den persönlichen Datenschutz und die potenzielle Schädlichkeit. Doch wenn sie gefragt wurden, ob sie bereit wären, auf besorgniserregende oder unethische Situationen zu reagieren, antworteten die Studenten oft mit Nein.
Ethikschulungen sind selten im formellen Lehrplan verankert und viele Ingenieurstudenten fühlen sich unzureichend vorbereitet, um mit den Herausforderungen umzugehen, die auf sie zukommen. Es wird deutlich, dass mehr Wert auf die Ethikausbildung in technischen Programmen gelegt werden sollte, um die nächste Generation von Ingenieuren besser auf die ethischen Fragen vorzubereiten, mit denen sie konfrontiert sein werden.