Die Technologie des geschäftigen Bots – generative KI – könnte E-Mails schreiben, Code generieren und Grafiken in Minuten erstellen. Plötzlich schienen die Tage, an denen Mitarbeiter ihre Postfächer durchforsteten und mühsam Präsentationen erstellten, wie ein Relikt der Vergangenheit. Unternehmen, angelockt von Gewinnen und Produktivitätssteigerungen, eilten, um die Technologie zu übernehmen. Laut einer im Mai durchgeführten Umfrage der Unternehmensberatung Mckinsey & Company verwenden nun 65 % der über 1.300 untersuchten Unternehmen regelmäßig generative KI – doppelt so viele wie im Vorjahr.
Die Risiken einer falschen Nutzung der Technologie sind jedoch erheblich. Generative KI kann Halluzinationen hervorrufen, Fehlinformationen verbreiten und Vorurteile gegenüber marginalisierten Gruppen verstärken, wenn sie nicht ordnungsgemäß verwaltet wird. Angesichts des hohen Risikos von Datenlecks, da die Technologie auf großen Mengen sensibler Daten basiert, besteht die Gefahr, dass sie sich umso weniger mit humanen Werten vereinigt, je ausgefeilter sie wird. Mit großer Macht kommt also große Verantwortung, und Unternehmen, die mit generativer KI Geld verdienen, müssen auch sicherstellen, dass sie sie regulieren.
Der ethische Beauftragte spielt eine entscheidende Rolle im Zeitalter der KI und ist verantwortlich für die Bestimmung der Auswirkungen des Einsatzes von KI eines Unternehmens auf die größere Gesellschaft. Erfolgreiche Inhaber dieser Position sollten über vier Kompetenzbereiche verfügen: technisches Verständnis von generativer KI, Erfahrung im Aufbau und Bereitstellung von Produkten, Kenntnisse der wichtigsten Gesetze und Vorschriften rund um KI sowie erhebliche Erfahrung in der Personaleinstellung und Entscheidungsfindung in einer Organisation. Es wird betont, dass jedes Fortune-500-Unternehmen, das KI in großem Maßstab einsetzt, einen leitenden Angestellten ernennen sollte, der ein verantwortungsbewusstes KI-Programm überwacht.
Der ethische Beauftragte sollte auch in der Lage sein, selbstbewusst mit verschiedenen Interessengruppen zu kommunizieren und über ein breites Verständnis dessen verfügen, was auf gesellschaftlicher Ebene geschieht. Die Zusammenarbeit zwischen Unternehmen, Regierungen und Aufsichtsräten ist von entscheidender Bedeutung, um eine breitere Perspektive auf die Herausforderungen im Zusammenhang mit KI-Ethik zu bekommen. Es wird darauf hingewiesen, dass es derzeit nicht genügend Einstellungen in diesen Positionen gibt, obwohl es eine hohe Nachfrage nach qualifizierten Ethikbeauftragten gibt.