Das AI-Unternehmen Anthropic unterstützt nun einen umstrittenen Gesetzesentwurf namens SB 1047, der KI in Kalifornien regulieren würde. Der CEO von Anthropic, Dario Amodei, schickte einen Brief an den Gouverneur von Kalifornien, Gavin Newsom, in dem er sagte, die Vorteile des Gesetzes würden wahrscheinlich die Kosten überwiegen. Dennoch merkte er an, dass es immer noch Bedenken und Unklarheiten gebe. Anthropic hatte zuvor Änderungsvorschläge zu SB 1047 gemacht und betont, dass Unternehmen sich mehr auf die Verhinderung des Bauens unsicherer Modelle konzentrieren sollten, anstatt strenge Gesetze nach tragischen Vorfällen zu erlassen.
In der überarbeiteten Version des Gesetzes wurden mehrere Änderungen vorgenommen. Zunächst wurden die zivilrechtlichen Strafen für Verstöße, die keine Schäden oder unmittelbare Gefahr verursachen, begrenzt. Des Weiteren wurden sprachliche Änderungen vorgenommen, um den Fokus des Gesetzes auf Tests und Risikominderung zu klären. Eine neue Regierungseinrichtung zur Durchsetzung der KI-Vorschriften wurde von einer Abteilung zu einem Board umstrukturiert und innerhalb der bereits bestehenden Regierungsagentur platziert. Unternehmen müssen nun Sicherheitsberichte öffentlich zugänglich machen und ungeschwärzte Versionen an den Generalstaatsanwalt senden.
Obwohl Amodei erklärte, dass das Gesetz nun einen Kompromiss zwischen der vorgeschlagenen Version und dem Original darstellt, glaubt er, dass die Entwicklung öffentlich verfügbarer Sicherheits- und Schutzprotokolle die Branche deutlich verbessern wird. Anthropic bezeichnet sich als ein „Sicherheits- und Forschungsunternehmen“ und hat große Investitionen von Amazon erhalten. Das Unternehmen wurde 2021 von ehemaligen Mitarbeitern von OpenAI gegründet, um sicherzustellen, dass KI im Einklang mit menschlichen Werten steht.
Der Gesetzesentwurf stößt bei anderen Unternehmen, darunter OpenAI und Meta, auf Bedenken. OpenAI argumentiert, dass die neuen Vorschriften KI-Unternehmen aus Kalifornien vertreiben könnten. Meta behauptet wiederum, dass das Gesetz die Veröffentlichung von Open-Source-KI aktiv behindert. Senator Scott Wiener äußerte jedoch, dass das detaillierte Engagement von Anthropic Hoffnung auf eine differenzierte Diskussion innerhalb der Branche schüre und Unternehmen dazu ermuntere, sich mit mehr Nuancen mit dem Thema auseinanderzusetzen.