Der wachsende Trend des “Prompt Hacking” bereitet Sorgen, da Hacker herausfinden, wie sie LLMs manipulieren können, um eingeschränkte Informationen abzurufen. In vielen Umgebungen ist es möglich, LLMs mit wenig oder keiner Hacking-Erfahrung zu überlisten. Neue Sicherheitsmaßnahmen müssen implementiert werden, und ...