Zurück zum Glossar
Was ist Prompt Injection?
Definition
Ein Angriff auf LLM-basierte Anwendungen, bei dem bösartige Nutzereingaben den System-Prompt des Modells manipulieren, sodass es unbeabsichtigte Anweisungen ausführt.
Auswirkung auf die Sicherheit
Kann zu Datenabfluss, umgangenen Sicherheitsschranken, nicht autorisierten Aktionen in agentischen Systemen und zur vollständigen Kompromittierung KI-gestützter Workflows führen.
So behebst du es
Bereinige Eingaben strikt, isoliere den System-Prompt, filtere Ausgaben und behandle LLM-Ausgaben niemals ungeprüft als ausführbare Befehle.
Willst du Prompt Injection-Schwachstellen in deiner CI/CD-Pipeline automatisch erkennen und blockieren?
Mit Bryxe scannen