Mouser Electronics hat jetzt den GroqCard Accelerator von BittWare auf Lager. Dieser doppelt breite PCIe-Formfaktor-ML-Beschleuniger bietet einfache Bereitstellungspfade für PyTorch, TensorFlow und ONNX-trainierte Deep-Learning-Modelle. Das Gerät ist vielseitig einsetzbar zur Beschleunigung von KI-, HPC- und ML-Workloads für Finanz-, Regierungs-, generative KI-, Energie- und industrielle Anwendungen. Mit neun RealScale-Chip-zu-Chip-Verbindungen gewährleistet der Beschleuniger, dass mehrere Karten so effizient wie eine eingesetzt werden können. Die Einheit bietet beinahe lineare, Multi-Server- und Multi-Rack-Skalierbarkeit ohne externe Schalter. ECC schützt vor Datenkorruption für verbesserte Betriebszeit und Zuverlässigkeit. Der vollständig deterministische GroqChip-Prozessor verbessert die Skalierbarkeit. Durch eine Verringerung des Datenverkehrs stellt der GroqChip sicher, dass eine vorhersagbare, flaschenhalsfreie Leistung mit geringer Latenz erzielt wird. Der eigenständige Chip ermöglicht eine flexible Integration in rechenintensive Anwendungen, während seine vereinfachte Architektur und der softwareorientierte Fokus den GroqChip-Prozessor einfacher zu programmieren machen als eine GPU.
Die GroqWare Suite, eine umfassende und vielseitige Software-Stack, besteht aus dem Groq Compiler, der Groq API und Dienstprogrammen. Die Suite vereinfacht den Integrations- und Einrichtungsprozess und ist mit branchenüblichen KI- und ML-Rahmenwerken kompatibel. Die im GroqWare Suite enthaltene GroqFlow-Tool-Kette ermöglicht es, mit einer einzigen Zeile Pytorch- oder TensorFlow-Code vorhandene Modelle zu importieren und zu transformieren. Das Gerät bietet bis zu 750 TOPs und 188 TFLOPs bei einer Frequenz von 900 MHz für INT8- und FP16-Operationen. Der GroqCard Accelerator verfügt über 230 MB SRAM pro Chip und bis zu 80 TB/s On-Die-Speicherbandbreite, um schnellen Datenzugriff und -verarbeitung zu ermöglichen.
Seb Springall ist ein erfahrener Redakteur bei Electropages, der sich auf die Produkt-News-Sektionen spezialisiert hat. Mit einem geschulten Blick für die neuesten Fortschritte in der Technologiebranche kuratiert und überwacht Seb Inhalte, die innovative Technologien und Markttrends hervorheben.