Frontier KI-Technologien, einschließlich der rasch zunehmenden generativen KI-Modelle, werden immer leistungsfähiger und können eine Vielzahl von Aufgaben bewältigen. Regierungen haben das enorme Potenzial erkannt, das KI für Wirtschaft und Gesellschaft freisetzen kann. Gleichzeitig sahen sich dieselben Regierungen mit ernsthaften Risiken und Schäden konfrontiert, die mit diesen Technologien verbunden sind, wenn sie ohne angemessene Sicherheitsvorkehrungen entwickelt und freigegeben werden. Dazu gehören die Verstärkung von Konflikten und Gewalt sowohl online als auch offline, die Entstehung und Verbreitung von Desinformationen im großen Stil, die weit verbreitete Diskriminierung aufgrund von Geschlecht, Rasse, Ethnizität und anderen Kategorien, die Ermöglichung von Cyberangriffen oder Betrug, Verletzungen der Privatsphäre, die Umkehrung der bestehenden Mechanismen zum Schutz des geistigen Eigentums sowie die Aushöhlung hart erkämpfter demokratischer Normen und Werte, einschließlich der Menschenrechte und der grundlegenden Freiheiten.
Angesichts solcher komplexen Herausforderungen haben Länder optimale Regelungen für die KI-Governance erkundet, die verschiedene politische, institutionelle und regulatorische Maßnahmen kombinieren, um die Kraft der KI-geführten digitalen Transformation zum Nutzen ihrer Bevölkerung zu nutzen, ohne ihr Wohlergehen zu gefährden. Diese Initiativen, die auf nationaler, regionaler und globaler Ebene im Gange sind, verändern das Bild der KI-Governance drastisch. Da verschiedene Modelle der KI-Aufsicht entstehen, stehen Länder vor der Notwendigkeit, voneinander zu lernen, bewährte regulatorische Praktiken auszutauschen und mit den Wissensproduzenten in diesem Bereich in Kontakt zu treten, die an der Spitze der KI-Politik stehen. Um ihre Kompetenzen und Kapazitäten für eine Politiktransformation zu stärken, haben die Mitgliedstaaten der UNESCO beschlossen, leitende Entscheidungsträger, Branchenführer und Vertreter der Zivilgesellschaft im Rahmen des Globalen Forums für die Ethik der KI zusammenzubringen.