Ein Gesetzentwurf zur Regulierung der Sicherheit von künstlicher Intelligenz in Kalifornien, der mächtige Politiker und erfahrene Akademiker gegen einige der weltweit größten Technologieunternehmen stellt, scheint sich auf den Weg zur endgültigen Verabschiedung zu befinden. Der Gesetzentwurf, der von Senator Scott Wiener gesponsert wird, würde Entwickler von großen KI-Systemen dazu verpflichten, Tests durchzuführen, um festzustellen, ob sie für Angriffe auf kritische Infrastrukturen, Cyberangriffe oder Terrorismus verwendet werden könnten. Das Gesetz könnte als Modell dafür dienen, wie andere Bundesstaaten und die Bundesregierung mit der Spannung zwischen ihrem Wunsch, KI zu regulieren, und dem Wunsch von Unternehmen, in Ruhe gelassen zu werden, um Innovationen voranzutreiben und Geld zu verdienen, umgehen.
Das Gesetz hat bereits bipartisan Unterstützung erhalten und zeigt Kaliforniens Führungsrolle in Bezug auf KI unter den Staatsregierungen auf. Es fordert auch neue Schutzmaßnahmen für Whistleblower bei Unternehmen, die KI-Tools entwickeln. Obwohl führende KI-Forscher das Gesetz unterstützen, warnen sie auch vor den Risiken der nächsten Generation von KI, wenn sie ohne ausreichende Sorgfalt und Aufsicht entwickelt wird.
Dennoch gibt es Bedenken hinsichtlich der Einschränkungen des Gesetzes für die Open-Source-Entwicklung, die von einigen Experten als potenzielles Hindernis für Innovationen in Kalifornien und darüber hinaus angesehen wird. Die kalifornische Handelskammer sowie Unternehmen wie Meta (Muttergesellschaft von Facebook) und Venture-Capital-Firmen haben sich gegen den Gesetzentwurf ausgesprochen, da sie fürchten, dass die Einhaltung verschiedener Sicherheitsstandards teuer und zeitaufwändig sein könnte und einige Unternehmen dazu zwingen könnte, den Bundesstaat zu verlassen.
Der Gesetzentwurf scheint auch ein politischer Wendepunkt in Kaliforniens Zukunft zu sein. Sowohl die demokratische Abgeordnete Nancy Pelosi als auch die Abgeordnete Zoe Lofgren haben Bedenken geäußert hinsichtlich der Auswirkungen auf die Innovationsfähigkeit und den AI-Ökosystem der USA. Senator Wiener weist die Kritik zurück und betont, dass reine Selbstregulierung der Technologieunternehmen nicht im besten Interesse der Gesellschaft liege. Der Gesetzentwurf hat bereits den kalifornischen Senat passiert und befindet sich nun in den Ausschüssen der kalifornischen Versammlung auf dem Weg zur Verabschiedung.