Назад до глосарію

Що таке Prompt injection?

Визначення

Атака на застосунки на базі LLM, у якій шкідливе введення користувача маніпулює системним промптом моделі, щоб змусити її виконати непередбачені інструкції.

Вплив на безпеку

Може призвести до викрадення даних, обходу захисних обмежень, несанкціонованих дій в агентних системах і повної компрометації AI-процесів.

Як усунути

Запровадьте сувору санітизацію вхідних даних, ізолюйте системний промпт, фільтруйте вихідні дані й ніколи не довіряйте відповідям LLM як виконуваним командам без перевірки.

Хочете автоматично виявляти й блокувати вразливості Prompt injection у своєму CI/CD-пайплайні?

Почати сканування з Bryxe
Застосуйте визначення на практиці: практичні посібники з безпеки →