Zwei ehemalige OpenAI-Forscher sprechen sich gegen den Widerstand des Unternehmens gegen den kalifornischen Gesetzesentwurf SB 1047 aus, der strenge Sicherheitsprotokolle bei der Entwicklung von KI vorsieht, einschließlich eines “Kill-Schalters”. Die ehemaligen Mitarbeiter schrieben in einem Brief an den kalifornischen Gouverneur Gavin Newsom und andere Gesetzgeber, dass der Widerstand von OpenAI gegen das Gesetz enttäuschend, aber nicht überraschend sei. Sie traten OpenAI bei, um die Sicherheit der von dem Unternehmen entwickelten leistungsfähigen KI-Systeme zu gewährleisten, resignierten jedoch, weil sie das Vertrauen verloren haben, dass das Unternehmen seine KI-Systeme sicher, ehrlich und verantwortungsbewusst entwickeln würde. Die Forscher betonen, dass die Entwicklung von modernen KI-Modellen ohne angemessene Sicherheitsvorkehrungen vorhersehbare Risiken für die öffentliche Sicherheit darstellt.
OpenAI-CEO Sam Altman hat wiederholt und öffentlich die Idee der KI-Regulierung unterstützt, wie Saunders und Kokotajlo schrieben, unter Berufung auf Altmans Kongressaussagen, die sich für staatliche Interventionen aussprachen. Doch wenn konkrete Regulierung auf dem Tisch liegt, lehnt er sie ab. Ein Sprecher von OpenAI erklärte, dass eine Meistdarstellung ihrer Position zu SB 1047 in einem separaten Brief von Jason Kwon, dem Chief Strategy Officer von OpenAI, enthalten sei. Kwon schrieb an den kalifornischen Senator Scott Wiener, der den Gesetzesentwurf einbrachte, und erklärte den Widerstand des Unternehmens. Obwohl SB1047 zu einer sinnvollen Debatte geführt habe, unterstütze OpenAI einige seiner Sicherheitsbestimmungen. Aufgrund der nationalen Sicherheitsimplikationen der KI-Entwicklung glaubt das Unternehmen jedoch, dass die Regulierung auf Bundesebene gestaltet und umgesetzt werden sollte.
Saunders und Kokotajlo sind jedoch nicht überzeugt, dass die Forderung nach bundesweiten Gesetzen der einzige Grund ist, warum OpenAI sich gegen SB 1047 in Kalifornien ausspricht. Sie behaupten, dass die Beschwerden des Unternehmens über das Gesetz “nicht konstruktiv und nicht im guten Glauben” seien. Die ehemaligen Mitarbeiter von OpenAI hoffen, dass die kalifornische Legislative und Gouverneur Newsom das Gesetz SB 1047 verabschieden werden. Mit angemessener Regulierung hoffen sie, dass OpenAI seinem Missionssatz gerecht werden kann, AGI sicher zu entwickeln.