Writer, ein führender Anbieter von generativen KI-Lösungen, hat kürzlich zwei neue domänenspezifische Modelle namens Palmyra-Med und Palmyra-Fin eingeführt, die jeweils darauf abzielen, die Gesundheits- und Finanzbranche zu revolutionieren. Diese Modelle sind die neuesten Ergänzungen zu Writers Familie großer Sprachmodelle (LLMs) und wurden speziell darauf trainiert, die einzigartigen Herausforderungen und Anforderungen ihrer jeweiligen Domänen anzugehen.
Palmyra-Med, das auf die Gesundheitsbranche fokussierte Modell, wurde mit einer umfangreichen Menge an medizinischen Daten trainiert, einschließlich PubMed-Abstracts und klinischer Medizintexte. Diese spezialisierte Schulung ermöglicht es Palmyra-Med, Texte mit präziser domänenspezifischer Genauigkeit und Flüssigkeit zu verstehen und zu generieren, was es zu einem unverzichtbaren Werkzeug für medizinische Fachkräfte macht. Palmyra-Med hat einen durchschnittlichen Genauigkeitswert von 85,9% bei medizinischen Benchmarks erreicht und übertrifft damit andere Modelle wie Med-PaLM 2 und GPT-4. Diese Leistung beinhaltet einen Wert von 81,1% bei PubMedQA, einem führenden Benchmark im biomedizinischen Frage-und-Antwort-Bereich.
In der Gesundheitsbranche besteht eine der wichtigsten Herausforderungen darin, genaue und präzise Informationen bereitzustellen. Palmyra-Med begegnet dieser Herausforderung, indem es eine zuverlässige und vertrauenswürdige Quelle medizinischen Wissens bietet. Seine Fähigkeit, komplexe medizinische Berichte zu analysieren und zusammenzufassen, Schlüsselinformationen zu extrahieren und prägnante, strukturierte Zusammenfassungen zu generieren, macht es zu einem unverzichtbaren Werkzeug für medizinische Fachkräfte. Darüber hinaus kann Palmyra-Med dazu beitragen, die Behandlungsergebnisse zu verbessern, indem es personalisierte Behandlungspläne bereitstellt, potenzielle Gesundheitsrisiken identifiziert und die klinische Entscheidungsfindung optimiert.
Palmyra-Fin hingegen ist darauf ausgelegt, den einzigartigen Anforderungen der Finanzbranche gerecht zu werden. Dieses Modell wurde auf einer umfangreichen Sammlung hochwertiger Finanzdaten feinabgestimmt, was es in die Lage versetzt, Text mit präziser, domänenspezifischer Genauigkeit und Flüssigkeit zu verstehen und zu generieren. Palmyra-Fin hat hohe Ergebnisse bei verschiedenen Finanzdatensätzen erzielt, darunter die Analyse von Finanzdokumenten, die Vorhersage von Markttrends und die Risikobewertung. Bemerkenswert ist, dass Palmyra-Fin 73% im Multiple-Choice-Bereich eines CFA Level III-Beispiels erreicht hat und damit andere Modelle wie GPT-4 übertrifft.
In der Finanzbranche sind Genauigkeit und Geschwindigkeit entscheidend. Palmyra-Fin begegnet diesen Herausforderungen, indem es eine zuverlässige und effiziente Quelle finanziellen Wissens bereitstellt. Seine Fähigkeit, komplexe Finanzberichte zu analysieren und zusammenzufassen, Schlüsselinformationen zu extrahieren und prägnante, strukturierte Zusammenfassungen zu generieren, macht es zu einem unverzichtbaren Werkzeug für Finanzfachkräfte. Darüber hinaus kann Palmyra-Fin die finanzielle Entscheidungsfindung durch fortgeschrittene Entitätserkennung, die Identifizierung von wichtigen finanziellen Konzepten und die Extraktion von Erkenntnissen aus Finanzberichten verbessern.
Sowohl Palmyra-Med als auch Palmyra-Fin sind auf Writers proprietärer LLM-Architektur aufgebaut, die eine skalierbare und effiziente Lösung für Unternehmen bietet. Im Gegensatz zu größeren LLMs sind die Palmyra-Modelle kompakt und effizient gestaltet, was sie für eine breitere Palette von Organisationen zugänglich macht. Writers Engagement für Transparenz und Sicherheit stellt sicher, dass Kunden die volle Kontrolle über ihre Daten haben und die Modelle auf sichere und konforme Weise implementieren können.
Writer hat sich mit NVIDIA zusammengetan, um Palmyra-Med und Palmyra-Fin als NVIDIA NIM-Inferenz-Mikrodienste verfügbar zu machen, die eine schnelle Bereitstellung und verbesserte Leistung ermöglichen. Die Modelle haben eine verbesserte Leistung durch die AI-Software von NVIDIA erfahren, wobei Optimierungen mit NVIDIA TensorRT-LLM die Inferenzlatenz um 23% bzw. 30% reduziert und die Rate der Token-Rückgabe um etwa 60% für beide erhöht haben. Diese Partnerschaft ermöglicht es Kunden, auf die Modelle über den NVIDIA-API-Katalog zuzugreifen, was die Integration in ihre Anwendungen erleichtert.
Die Einführung von Palmyra-Med und Palmyra-Fin von Writer markiert einen bedeutenden Meilenstein in der Entwicklung domänenspezifischer LLMs. Diese Modelle haben das Potenzial, die Gesundheits- und Finanzbranche zu revolutionieren, indem sie genaue, zuverlässige und effiziente Wissensquellen bereitstellen. Mit ihrer kompakten und effizienten Architektur sind die Palmyra-Modelle für eine breitere Palette von Organisationen zugänglich und somit ein unverzichtbares Werkzeug für jede Organisation, die die Kraft der generativen KI nutzen möchte.