Brian Green ist Direktor für Technologieethik und Co-Autor von „Ethics in the Age of Disruptive Technologies: An Operational Roadmap“ (The ITEC Handbook). Die in diesem Artikel diskutierte Frage „Sollte KI gesellschaftliche informierte Zustimmung erfordern?“ wurde ursprünglich im November 2023 auf TDWI.org veröffentlicht.
Die Idee der informierten Zustimmung der Gesellschaft wird bereits seit über einem Jahrzehnt in der Ingenieursethik diskutiert, hat es aber noch nicht geschafft, in der Gesellschaft Fuß zu fassen, wo die Durchschnittsperson davon ausgeht, dass Technologie im Allgemeinen hilfreich und nicht allzu risikoreich ist. Mit der zunehmenden Anwendung von künstlicher Intelligenz in neuen Bereichen werden Fälle, in denen Technologien nicht erwünscht sind, zunehmen. Wie sollen Technologieproduzenten wissen, wenn ihre Technologien nicht gewollt sind, wenn sie die Öffentlichkeit nie danach fragen?
Es ist an der Zeit, dass die Regierung und die Öffentlichkeit eine neue Unterhaltung führen, die sich speziell mit künstlicher Intelligenz beschäftigt. In der Vergangenheit haben wir Technologie immer das Wohlwollen gegeben und der lange vertraute Satz in und um das Silicon Valley war „es ist besser um Verzeihung zu bitten, als um Erlaubnis“. Diese Mentalität ist heute nicht mehr zeitgemäß.
In Anbetracht von Fällen wie Theranos, FTX und Silicon Valley Bank sind es die Tech-Führer selbst, die das Risiko diskutieren, wobei viele sich auf langfristige „außer Kontrolle“ geratene KI-Risiken konzentrieren. Sicherlich sollte die Regierung handeln, um zu vermeiden, dass solche apokalyptischen Szenarien eintreten. Die Gesellschaft hat diesem nicht zugestimmt und die Regierung sollte eindeutig versuchen, solche Risiken für die Gesellschaft zu verhindern.
Es ist wichtig zu diskutieren, welche Arten von Zukunftstechnologien, wie KI in sozialen Medien oder Autos, die Gesellschaft akzeptiert oder ablehnt. Jemand wird entscheiden müssen, und es sind höchstwahrscheinlich die Unternehmensanwälte der Technologieproduzenten. Es ist an der Zeit, als Gesellschaft diese Fragen zu besprechen und gemeinsam zu entscheiden, welche Art von Zukunft wir alle wollen.