“Cutting-Edge Strategies in Machine Learning for Cybersecurity: Insights from CAMLIS Presentations”

Angewandtes maschinelles Lernen in der Informationssicherheit: Einblicke von CAMLIS 2023

In dieser Woche fand die Konferenz "Applied Machine Learning in Information Security" (CAMLIS) in Arlington, Virginia, statt. Im Mittelpunkt standen spannende Vorträge und eine informelle Poster-Session, die zentrale Aspekte der Forschung des SophosAI-Teams beleuchteten. Hauptziel ist es, effektivere Methoden zur Nutzung von maschinellem Lernen und künstlicher Intelligenz im Bereich der Informationssicherheit zu entwickeln und gleichzeitig die Risiken zu minimieren, die mit KI-Modellen selbst einhergehen.

Am 24. Oktober präsentieren Ben Gelman, Sean Bergeron und Younghoo Lee aus dem SophosAI-Team während der Poster-Session ihre neuesten Forschungsergebnisse. Gelman und Bergeron werden in ihrem Vortrag "The Revitalization of Small Cybersecurity Models in the New Era of AI" über die Bedeutung kleinerer Modelle sprechen. Trotz des Hypes um Große Sprachmodelle (LLMs) wie GPT-4 von OpenAI, Gemini von Google und LLaMA von Meta sind kleinere Modelle weiterhin entscheidend, insbesondere an den Netzwerkgrenzen und Endpunkten, wo die hohen Rechen- und Netzwerkkosten von LLMs ihre Nutzung erschweren.

Gelman und Bergeron erläutern, wie LLM-Technologie genutzt werden kann, um den Trainingsprozess kleinerer Modelle zu optimieren. Dabei stellen sie Techniken vor, die es ermöglichen, kosteneffiziente Modelle in verschiedenen Aufgaben der Cybersicherheit auf ein höheres Leistungsniveau zu heben.

In einem verwandten Vortrag präsentiert Younghoo Lee "A fusion of LLMs and lightweight ML for effective phishing email detection". Da Angreifer vermehrt LLMs verwenden, um überzeugendere und gezieltere Phishing-E-Mails zu erstellen, untersucht Lee, wie LLMs eingesetzt werden können, um diesen Bedrohungen zu begegnen. Sein Ansatz zeigt, dass durch die Kombination von LLMs mit traditionellen, kleineren Modellen die Erkennungsgenauigkeit von Phishing-E-Mails deutlich verbessert werden kann.

Am zweiten Tag der CAMLIS stellt Tamás Vörös vom SophosAI-Team seine Forschung über die Entschärfung bösartiger LLMs vor. Sein Vortrag "LLM Backdoor Activations Stick Together" zeigt die Risiken der Nutzung von "Black Box"-LLMs auf und demonstriert, wie das Team kontrollierte Trojaner in Modelle injiziert hat. Vörös präsentiert zudem "Noising"-Methoden, die zur Deaktivierung bereits bestehender Trojaner-Aktivierungskommandos dienen.

Die CAMLIS 2023 bot somit wertvolle Einblicke in die Zukunft der Informationssicherheit und unterstrich die Notwendigkeit, KI-Modelle verantwortungsbewusst zu nutzen, um den Schutz vor Bedrohungen zu maximieren.