Wróć do słownika
Czym jest Prompt Injection?
Definicja
Atak na aplikacje oparte na LLM, w którym złośliwe dane od użytkownika manipulują promptem systemowym modelu, by wykonał niezamierzone instrukcje.
Wpływ na bezpieczeństwo
Może prowadzić do wycieku danych, obejścia zabezpieczeń (guardrails), nieautoryzowanych działań w systemach agentowych i całkowitego przejęcia przepływów opartych na AI.
Jak to naprawić
Wdróż ścisłą sanityzację danych wejściowych, izoluj prompt systemowy, filtruj odpowiedzi i nigdy nie traktuj wyników LLM jako poleceń do wykonania bez walidacji.
Chcesz automatycznie wykrywać i blokować podatności typu Prompt Injection w swoim pipeline CI/CD?
Zacznij skanować z Bryxe