Viele künstliche Intelligenzsysteme werden durch die Interaktion mit menschlichem Verhalten und menschengeschaffenen Informationen “trainiert”. Washington University-Forscher haben nun herausgefunden, dass Menschen ihr eigenes Verhalten ändern, wenn sie wissen, dass ihre Handlungen dazu dienen, KI zu trainieren. Diese Veränderungen können auch in die Zukunft hineinreichen und neue Gewohnheiten bei den menschlichen Trainern schaffen. Sogar Tendenzen oder Vorurteile im Verhalten einer Person können sich ändern, selbst solche, von denen die Person selbst nicht einmal weiß. Die Frage, wer hier wen trainiert, steht im Raum.
Dr. Philip R.O. Payne, Direktor des WashU-Instituts für Informatik und Professor für Medizin, betonte, wie wichtig es ist, die Verhaltensweisen von Menschen, die mit KI interagieren und diese Tools trainieren, zu verstehen, um etwaige Vorurteile messen und reduzieren zu können. Es gibt jedoch auch mögliche Nachteile, wenn Menschen ihr Verhalten verbessern, um KI zu trainieren. Zum Beispiel könnten Menschen, die eine KI für selbstfahrende Autos trainieren, besonders vorsichtig fahren, was das Fahren für die KI perfekt machen könnte. Aber in einer Stadt wie St. Louis, in der Menschen oft bei gelben Ampeln überfahren, könnte es gefährlicher sein, wenn ein selbstfahrendes Auto versucht, der perfekte Fahrer zu sein.
Die Forscher führten Experimente durch, die zeigten, dass Menschen ihr Verhalten ändern, wenn sie KI trainieren. Im Ultimatum-Spiel, bei dem ein Teil des Geldes zwischen zwei Spielern aufgeteilt werden muss, zeigte sich, dass diejenigen, die wussten, dass ihr Verhalten verwendet wurde, um KI zu trainieren, unfairere Angebote eher ablehnten. Dies deutet darauf hin, dass Menschen die KI dazu bringen wollten, gerecht zu spielen, und ihr Verhalten entsprechend anpassten. Selbst nachdem die Teilnehmer explizit gesagt bekommen hatten, dass sie keine KI mehr trainierten, hielt diese Verhaltensänderung in den Folgesitzungen an.
Die Ergebnisse könnten Einfluss darauf haben, wie KI trainiert wird und werfen Fragen darüber auf, welche Auswirkungen menschliche Verhaltensweisen und Vorlieben auf die von ihnen trainierten KI-Systeme haben können. Es wird deutlich, dass Menschen ihr Verhalten ändern, wenn sie mit der Schulung von KI-Systemen befasst sind, und die Forschung zeigt, dass diese Veränderungen anhalten können.