Die Forschungsergebnisse einer neuen Studie des MIT zeigen, dass große Sprachmodelle (LLMs) das Potenzial haben, effiziente Anomaliedetektoren für Zeitreihendaten zu sein. Im Gegensatz zu herkömmlichen, komplizierten Deep-Learning-Modellen, die für die Analyse von Zeitreihendaten teuer und aufwändig sind, zeigte das LLM-basierte Framework namens SigLLM vielversprechende Ergebnisse. Die Forscher konnten zeigen, dass LLMs zwar nicht die besten Modelle für die Anomaliedetektion sind, aber dennoch eine Alternative darstellen könnten. Dies könnte dazu beitragen, potenzielle Probleme in Ausrüstungen wie Satelliten oder Windkraftanlagen frühzeitig zu erkennen, ohne teure Deep-Learning-Modelle einsetzen zu müssen.
LLMs sind auto-regressiv, was bedeutet, dass sie die neuesten Werte in sequenziellen Daten in Abhängigkeit von den vorherigen Werten verstehen können. Durch die Entwicklung eines neuen Ansatzes namens SigLLM konnten die Forscher Zeitreihendaten in textbasierte Eingaben umwandeln, die von einem LLM verarbeitet werden können. Sie haben zwei verschiedene Ansätze für die Anomaliedetektion entwickelt: Dem “Prompter”-Ansatz, bei dem das Modell angewiesen wird, anomale Werte zu lokalisieren, und dem “Detector”-Ansatz, bei dem das LLM als Vorhersagemodell verwendet wird, um Anomalien zu identifizieren. Der Ansatz des “Detectors” funktionierte dabei besser als der des “Prompters” und konnte transformerbasierte KI-Modelle auf vielen Datensätzen übertreffen.
Obwohl die LLMs im Rahmen der Studie keine Spitzenleistungen bei der Anomaliedetektion erzielten und traditionelle Deep-Learning-Modelle deutlich übertrafen, zeigen die Forschungsergebnisse das Potenzial dieser Methodik. Zukünftige Untersuchungen könnten darauf abzielen, die Leistung der LLMs zu verbessern, um sie als effektive Anomaliedetektoren einzusetzen. Es besteht jedoch noch Bedarf an weiteren Forschungsarbeiten, um die Effizienz von LLMs bei der Anomaliedetektion zu steigern und ihre Anwendung in komplexen Systemen zu optimieren.