In einer neuen Studie fanden MIT-Forscher heraus, dass große Sprachmodelle (LLMs) das Potenzial haben, effizientere Anomaliedetektoren für Zeitreihendaten zu sein. Diese vortrainierten Modelle können direkt nach dem Auspacken eingesetzt werden. Mit einem Rahmen namens SigLLM wandelten die Forscher Zeitreihendaten in textbasierte Eingaben um, die ein LLM verarbeiten kann. Der LLM kann dann Anomalien identifizieren und auch zukünftige Datenpunkte vorhersagen. Obwohl LLMs bei der Anomaliedetektion nicht mit modernsten Modellen mithalten konnten, haben sie gute Ergebnisse erzielt. Dieser Ansatz könnte es Technikern ermöglichen, potenzielle Probleme in Ausrüstungen vorherzusagen, ohne teure Deep-Learning-Modelle trainieren zu müssen.
Große Sprachmodelle sind auto regressiv und können die Beziehung zwischen aufeinanderfolgenden Datenpunkten verstehen. Die Forscher dachten, dass die auto regressive Natur von LLMs sie gut für die Erkennung von Anomalien in Zeitreihendaten geeignet machen könnte. Sie entwickelten eine Technik, die kein Feintuning erfordert, bei dem ein allgemeines LLM mit spezifischen Aufgaben trainiert wird. Durch die Umwandlung von Zeitreihendaten in textbasierte Eingaben konnte das LLM diese Daten verarbeiten. Zwei Anomaliedetektionsansätze wurden entwickelt: Prompter und Detector.
In der Zukunft könnte ein LLM sogar Erklärungen in verständlicher Sprache zu seinen Vorhersagen liefern. Aktuell übertrifft die Leistung von LLMs jedoch noch nicht hochmoderne Deep-Learning-Modelle bei der Anomaliedetektion. Die Forscher möchten herausfinden, ob Feintuning die Leistung verbessern kann, obwohl dies zusätzliche Zeit, Kosten und Expertise erfordert. Darüber hinaus wollen sie die Geschwindigkeit ihrer LLM-Ansätze erhöhen und deren Funktionsweise genauer untersuchen, um ihre Leistung zu steigern. Es bleibt abzuwarten, ob LLMs in Zukunft komplexere Aufgaben wie die Anomaliedetektion in Angriff nehmen könnten.