Ein Werkzeugkasten zur ethischen Nutzung generativer künstlicher Intelligenz (genAI) wird von Forschern im Vereinigten Königreich entwickelt, um Forschende bei der Verwendung von genAI besser zu unterstützen. Die genAI-Tools wie ChatGPT von OpenAI in San Francisco, Kalifornien, und Googles Gemini nutzen große Sprachmodelle (LLMs) zur Analyse und Verarbeitung von persönlichen Informationen von Studienteilnehmern. Die Forschung von Wendy Moncur an der University of Strathclyde in Glasgow, UK, untersucht, wie Menschen während großer Lebensübergänge ihre Privatsphäre online schützen können und diente als Inspiration für das Projekt.
Moncur und ihr Team verwenden genAI-Werkzeuge, um Lehrmaterialien basierend auf den Geschichten der Teilnehmer zu erstellen, die anderen durch ähnliche Lebensveränderungen helfen sollen. Die Bedenken hinsichtlich der Privatsphäre und möglichen Verzerrungen in den vom genAI-Programm generierten Informationen führten dazu, dass Moncur mit anderen Experten Lösungen erarbeitete. Das Projekt zielt darauf ab, Forschenden und Universitätsethikkommissionen Leitlinien zur Verfügung zu stellen, um Ethikfragen im Zusammenhang mit genAI zu klären.
Die Europäische Kommission hat ebenfalls Richtlinien für den verantwortungsvollen Einsatz von KI veröffentlicht, die in die Arbeit von Moncur und ihrem Team einfließen sollen. Das Projekt umfasst drei Hauptziele: die Identifizierung von Datenschutzrisiken durch die Nutzung von genAI in der Forschung, das Management von Datenanforderungen in der britischen Forschung, die den wachsenden Einsatz von genAI nicht berücksichtigen, und die rechtlichen Risiken für Institutionen, die genAI zur Analyse oder Verarbeitung von Teilnehmerdaten verwenden.
Der Werkzeugkasten, der auf einer Analyse von Stärken, Schwächen, Chancen und Bedrohungen basiert, soll von Ethikkommissionen und Forschenden konsultiert werden können, wenn sie Projekte planen, die genAI-Technologien verwenden. Die Leitlinien sollen über das Internet frei zugänglich sein, um Forschenden dringend benötigte Anleitungen für den verantwortungsbewussten Einsatz von genAI zu bieten.