Wróć do słownika

Czym jest Prompt Injection?

Definicja

Atak na aplikacje oparte na LLM, w którym złośliwe dane od użytkownika manipulują promptem systemowym modelu, by wykonał niezamierzone instrukcje.

Wpływ na bezpieczeństwo

Może prowadzić do wycieku danych, obejścia zabezpieczeń (guardrails), nieautoryzowanych działań w systemach agentowych i całkowitego przejęcia przepływów opartych na AI.

Jak to naprawić

Wdróż ścisłą sanityzację danych wejściowych, izoluj prompt systemowy, filtruj odpowiedzi i nigdy nie traktuj wyników LLM jako poleceń do wykonania bez walidacji.

Chcesz automatycznie wykrywać i blokować podatności typu Prompt Injection w swoim pipeline CI/CD?

Zacznij skanować z Bryxe
Zastosuj definicję w praktyce: praktyczne poradniki bezpieczeństwa →