Peter Wang ist der CEO von Anaconda, einem Unternehmen, das er 2012 mit dem Ziel gründete, die Python-Werkzeuge zur Analyse von Unternehmensdaten demokratischer zu gestalten. Unter Wangs Führung wuchs Anaconda parallel zum Aufstieg von Python als eine der weltweit beliebtesten Programmiersprachen. Mit Python als führender Sprache für KI-Workloads erweitert Anaconda seinen Fokus auf Datenwissenschaft und künstliche Intelligenz mit dem Ziel, eine gemeinsame Softwareebene für leistungsstarke KI zu werden. Anaconda hat Tools eingeführt, um Unternehmen und Personen den Einstieg in KI-große Sprachmodelle zu erleichtern, wie zum Beispiel den AI Navigator, eine Desktop-Anwendung, die AI-Modelle lokal auf Windows und Mac ausführen kann. Das Unternehmen beschäftigt 300 Vollzeitmitarbeiter und hat 40 Millionen Benutzer weltweit.
Business Insider sprach mit Wang, um mehr darüber zu erfahren, wie KI-Workloads Unternehmen dazu bringen, über die Verlagerung eines Großteils ihrer IT-Infrastruktur vor Ort nachzudenken – und mit welchen Hardware- und Softwareherausforderungen dies verbunden ist. Unternehmen zeigen Interesse an On-Premises-Lösungen für KI und große Sprachmodelle, um die Kontrolle über ihre eigenen Daten zu behalten, Modelle auf eigenen Daten zu optimieren und sie an interne Datenbanken anzuschließen, um agentenbasierte Modelle zu verwenden. Viele dieser Cloud-KI-Unternehmen sind zwar gut finanziert, aber immer noch relativ neu als Enterprise-Software-Anbieter. Es gibt viele Bedenken hinsichtlich Datenlecks und Compliance, daher ist das lokale Ausführen der KI-Modelle eine Möglichkeit, mehr Kontrolle zu haben und das Risiko unbeabsichtigter Datenexposition zu reduzieren.
Die Herausforderungen bei der Implementierung von On-Premises-KI in Unternehmen umfassen nicht nur Hardware, sondern auch Software. Die Anpassung der Software für eine effiziente und dynamische Nutzung der Hardware sowie die Fähigkeit, auf die sich ständig verändernden Anforderungen von KI-Workloads zu reagieren, stellen organisatorische Schwierigkeiten dar. Diese dynamischen Anforderungen erfordern eine gute Orchestrierung von Hardware und Software, die wiederum organisatorische und sogar softwarebezogene Herausforderungen mit sich bringt. Unternehmen müssen ihre internen IT-Richtlinien, organisatorischen Kompetenzen und die dynamische Natur von KI-Workloads berücksichtigen.
Es gibt eine steigende Nachfrage nach On-Premises-Lösungen für KI und große Sprachmodelle, da Unternehmen mehr Kontrolle über ihre Daten gewinnen wollen. Das lokale Ausführen von KI-Modellen bietet Unternehmen mehr Kontrolle und reduziert das Risiko unbeabsichtigter Datenexposition. Dies ist besonders wichtig für Unternehmen, die sensible interne Daten mit großen Sprachmodellen analysieren möchten, da sie kein Vertrauen in externe Systeme haben, wo wertvolle Informationen wie Kundenpräferenzen und Produktvorlieben offengelegt werden könnten. Peter Wang betont die Bedeutung von Softwarekompetenz in Unternehmen, um effizient mit der dynamischen Nutzung von Hardware für KI-Workloads umgehen zu können.