Kalifornische Gesetzgeber haben heute einen wichtigen Schritt unternommen, um einen umstrittenen Gesetzentwurf zu verabschieden, der Unternehmen, die leistungsstarke Formen künstlicher Intelligenz herstellen oder modifizieren, verpflichtet, deren Fähigkeit zur Verursachung schwerwiegender Schäden für die Gesellschaft zu testen. Nach einer 32-1-Abstimmung im Senat im Mai stimmte die Assembly am späten Mittwochnachmittag mit 41-9 für den Gesetzentwurf. Der Senat muss noch eine weitere Abstimmung durchführen, bevor der Gesetzentwurf an Gouverneur Gavin Newsom geht, der möglichen Änderungen in der Assembly zustimmen muss.
Gemäß Senate Bill 1047 müssen Unternehmen, die 100 Millionen Dollar für das Training eines KI-Modells oder 10 Millionen Dollar für die Modifikation eines solchen ausgeben, das Modell auf seine Fähigkeit testen, Cybersecurity- oder Infrastrukturangriffe zu ermöglichen oder die Entwicklung von chemischen, biologischen, radioaktiven oder nuklearen Waffen zu fördern. Gegner des Gesetzentwurfs argumentieren, dass die Kosten für die Einhaltung des Gesetzes der Branche schaden und insbesondere Start-ups abschrecken werden.
Befürworter des Gesetzentwurfs, darunter auch Whistleblower, die früher bei OpenAI und Anthropic arbeiteten, sowie Twitter-CEO Elon Musk und renommierte KI-Forscher wie Yoshua Bengio, argumentieren, dass KI-Tools erhebliche Gefahren darstellen und dass die Bundesregierung nicht genug getan hat, um diese Gefahren zu regulieren. Senator Scott Wiener, Autor des Gesetzentwurfs, betont, dass das Ziel von SB 1047 darin besteht, Sicherheitstests zu kodifizieren, denen Unternehmen bereits mit Präsident Biden und anderen Länderführern zugestimmt haben. Er verteidigte den Gesetzentwurf und wies die Behauptung zurück, dass Unternehmen Kalifornien verlassen würden, wenn das Gesetz verabschiedet wird.
SB 1047 hat mehrere Änderungsrunden durchlaufen, bevor er verabschiedet wurde. Neben diesem Gesetz hat die kalifornische Gesetzgebung in dieser Woche auch Gesetze verabschiedet, die große Online-Plattformen wie Facebook verpflichten, gefälschte Videos im Zusammenhang mit Wahlen zu entfernen, sowie eine Arbeitsgruppe zu schaffen, die Schulen Anleitungen zur sicheren Nutzung von KI geben soll. Weitere KI-Gesetze, die in dieser Woche zur Abstimmung stehen, zielen darauf ab, Diskriminierung durch Automatisierung zu bekämpfen und Maßnahmen zu ergreifen, um Wähler vor irreführenden gefälschten Videos zu schützen.