OpenAI hat Zico Kolter, Professor und Leiter der Abteilung für maschinelles Lernen an der Carnegie Mellon University, in den Vorstand berufen, wie das von Microsoft unterstützte KI-Startup am Donnerstag bekannt gab. Angesichts zunehmender Bedenken hinsichtlich der Sicherheit generativer künstlicher Intelligenz, da immer mehr Unternehmen die boomende Technologie übernehmen, hat das Vorstandsmitglied des ChatGPT-Herstellers mehrere Änderungen durchgemacht. Kolter, dessen Arbeit sich hauptsächlich auf die Sicherheit von KI konzentriert, wird auch dem Sicherheits- und Sicherheitsausschuss des OpenAI-Boards beitreten, zusammen mit CEO Sam Altman und den Direktoren Bret Taylor, Adam D’Angelo, Paul Nakasone und Nicole Seligman, sagte das Unternehmen. Das im Mai gegründete Sicherheitskomitee gibt Empfehlungen zu Sicherheits- und Sicherheitsentscheidungen für alle Projekte von OpenAI. Die Chatbots von OpenAI mit genAI-Fähigkeiten, wie das Führen von menschenähnlichen Gesprächen und das Erstellen von Bildern basierend auf Texteingaben, haben Sicherheitsbedenken hervorgerufen, da KI-Modelle immer mächtiger werden.
Kolter, ehemals Chefdatenwissenschaftler bei C3.ai, ist derzeit Chefexperte bei Bosch und Cheftechnologieberater bei Gray Swan – einem Startup, das sich auf KI-Sicherheit und -sicherheit spezialisiert hat. Im Jahr 2023 trug Kolter dazu bei, Methoden zur automatischen Bewertung der Sicherheit großer Sprachmodelle zu entwickeln und demonstrierte das Potenzial, bestehende Modellschutzmaßnahmen zu umgehen, so der Blogpost von OpenAI. Microsoft hatte im Juli seinen Board Observer-Sitz bei OpenAI aufgegeben, um den Bedenken der US-amerikanischen und britischen Wettbewerbsbehörden hinsichtlich des Ausmaßes seiner Kontrolle über das Startup angesichts der zunehmenden Übernahme von genAI entgegenzukommen.