Die Rechnung SB 1047 wurde vor sieben Monaten vom Sen. Scott Weiner eingeführt und am Mittwoch von der Staatsversammlung verabschiedet. Sie liegt nun auf dem Schreibtisch des Gouverneurs Gavin Newsom, der bis zum 30. September Zeit hat, zu entscheiden, ob er sie in Gesetz verwandeln oder sein Veto einlegen will. Er hat seine Position bisher nicht öffentlich signalisiert. Das Ziel des Gesetzes ist es, Sicherheitsmaßnahmen bei Unternehmen zu erzwingen, die mehr als 100 Millionen Dollar für die Schulung von KI-Modellen ausgeben, damit ihre Technologie nicht dazu dienen kann, der Gesellschaft Schaden zuzufügen, wie z.B. gefährliche Waffen zu schaffen oder Cyberangriffe durchzuführen.
Die Maßnahmen umfassen die Verpflichtung von Unternehmen, die in Kalifornien tätig sind, alle Sicherheitsvorfälle der Regierung zu melden, Whistleblower zu schützen und Dritten zu ermöglichen, ihre Modelle auf Sicherheit zu testen. Falls erforderlich, würden sie Unternehmen auch dazu drängen, einen vollständigen Stillstand einzuleiten. Das Gesetz hat eine klare Trennlinie durch das Silicon Valley gezogen, und einige der größten Persönlichkeiten der Technologiebranche haben Position bezogen.
Elon Musk unterstützte ebenfalls das Gesetz. In einem Beitrag in den sozialen Medien am Montag sagte Musk, der letztes Jahr die KI-Firma xAI gegründet hat und eine langjährige Rivalität mit OpenAI’s Altman hat, dass er zwar glaubt, dass es “eine schwierige Entscheidung ist und einige Leute verärgern wird”, aber er denke, dass “Kalifornien wahrscheinlich das SB 1047 AI-Sicherheitsgesetz verabschieden sollte.” Amazon-backed Anthropic schien in der Mitte des Streits die Seiten gewechselt zu haben, nachdem das Gesetz geändert wurde. In einem Brief an den kalifornischen Gouverneur Gavin Newsom letzte Woche sagte der CEO von Anthropic, Dario Amodei, dass “die Vorteile des Gesetzes wahrscheinlich die Kosten übersteigen.” Es wurden jedoch Bedenken geäußert, dass das Gesetz nun “für uns zwischen unserer vorgeschlagenen Version und dem ursprünglichen Gesetz liegt.”