IBM hat kürzlich einen neuen „Lightweight Engine“ für seinen WatsonX.ai-Dienst eingeführt. Obwohl es in erster Linie auf „Unternehmen“ abzielt, könnte es als Einstieg für kleine Unternehmen, die skalieren möchten, oder mittelständische Unternehmen in aufstrebenden Branchen wie Fintech dienen. Der Markt für generative KI ist zweifellos der Haupttreiber hinter dem Umsatzwachstum im Technologiesektor in der ersten Hälfte des Jahres 2024.
Vor der Einführung von ChatGPT wurde weithin festgestellt, dass große Sprachmodelle wie GPT-3 einfach nicht zuverlässig oder genau genug für den Einsatz in der Finanzwelt oder an anderen Stellen waren, wo es keinen Spielraum für Fehler gibt. Selbst nach Fortschritten in dem Bereich seit 2023 bleibt die gleiche Maxime wahr: KI-Modelle, die für den allgemeinen Gebrauch trainiert sind, auf öffentlichen Daten, sind so unvorhersehbar wie die Informationen, auf denen sie trainiert sind. Damit ein generatives KI-Modell mehr als nur ein Chatbot ist, der einige Codierungsfunktionen ausführen kann, müssen Modelle spezialisiert sein.
IBM’s WatsonX.ai arbeitet mit sowohl cloud-basierten als auch on-premises-Lösungen und mit der Ergänzung des Lightweight Engine können Modelle vor Ort mit einem reduzierten Footprint betrieben und eingeführt werden. In Branchen, in denen regulatorische und treuhänderische Pflichten bestimmte Arten von Daten erfordern, die vor externer Manipulation geschützt sind, wie im Fintech- und Finanzdienstleistungssektor, könnten cloud-basierte KI-Lösungen möglicherweise nicht die Sicherheitsanforderungen erfüllen.
In der Fintech-Branche und anderen aufstrebenden Branchen – wie Bergbau, Blockchain und Krypto-Kredite – in denen Off-Site-KI-Lösungen nicht allen Sicherheitsanforderungen eines Unternehmens entsprechen könnten, könnte die Flexibilität einer cloud-basierten und on-premises-fähigen Lösung den Unterschied zwischen der internen Entwicklung und Bereitstellung von Modellen oder dem Abonnement einer Lösung eines anderen Unternehmens ausmachen. IBM’s „Lightweight Engine“ scheint seinem Namen gerecht zu werden. Es bietet einen reduzierten Footprint und eine erhöhte Effizienz, kommt aber auf Kosten einiger Funktionen, die nur in der vollständigen Version verfügbar sind.