Am 14. Mai 2024 veranstaltete Google die jährliche I/O, bei der das Unternehmen seine Produkte bewirbt. CEO Sundar Pichai sagte in seiner Eröffnungsrede, dass KI-Assistenten Kern der Unternehmensvision seien. Ein früherer Artikel von Google DeepMind, an dem 57 Autoren beteiligt waren, spekulierte über ethische und gesellschaftliche Risiken von KI-Assistenten, die Google und andere Tech-Unternehmen bauen wollen. Der Artikel diskutiert potenzielle Anwendungen, Werte, Sicherheit und Schutzmaßnahmen. Es geht auch um den Umgang fortgeschrittener KI-Assistenten mit individuellen Nutzern sowie breiteren gesellschaftlichen Auswirkungen und Empfehlungen für Forscher, Entwickler, Politiker und die Öffentlichkeit.
Die Autoren beschäftigen sich mit dem Konzept fortgeschrittener KI-Assistenten, die als intelligente Systeme betrachtet werden, die über Autonomie verfügen. Sie diskutieren die Herausforderungen der anthropomorphen Darstellung von KI-Assistenten und deren potenzielle Auswirkungen auf die Benutzer. Die Autoren betonen, dass die Interaktionen mit KI-Assistenten auf klaren und transparenten Grundlagen basieren sollten, um irreführende Darstellungen zu vermeiden. Zudem untersuchen sie Konzepte wie Kooperation, Gerechtigkeit und Fairness in der Interaktion zwischen verschiedenen KI-Agenten und Benutzern.
Eine zentrale Frage, die im Artikel diskutiert wird, ist die Frage der Werteausrichtung in der Schaffung von KI-Systemen, insbesondere die Frage, ob die Entscheidungen, die bei der Entwicklung von KI-Assistenten getroffen werden, mit den Werten übereinstimmen, die für die Gesellschaft von Bedeutung sind. Die Autoren betonen die Bedeutung von Autonomie, Fürsorge und menschlichem Gedeihen als zentrale Werte in menschlichen Beziehungen und diskutieren, wie diese Werte in der Interaktion mit KI-Assistenten erhalten und gefördert werden können. Sie heben hervor, dass es wichtig ist, im Umgang mit KI-Assistenten eine ausgewogene Balance zwischen den individuellen Bedürfnissen der Benutzer und den breiteren sozialen Bedürfnissen zu finden.
Die Forscher sehen die Notwendigkeit einer Professionalisierung und Ethik in der Entwicklung von KI-Technologien. Sie heben die Herausforderung hervor, ethische Prinzipien in die Praxis umzusetzen und eine neue professionelle Norm für den Umgang mit KI zu etablieren. Die Diskussion über die Verbreitung von Entscheidungsmacht und Demokratisierung der Entscheidungsfindung in Bezug auf KI-Technologien wird als wichtiger Schritt zur Schaffung einer nachhaltigen und ethisch verantwortlichen Innovation in diesem Bereich angesehen.