Назад до глосарію
Що таке Prompt injection?
Визначення
Атака на застосунки на базі LLM, у якій шкідливе введення користувача маніпулює системним промптом моделі, щоб змусити її виконати непередбачені інструкції.
Вплив на безпеку
Може призвести до викрадення даних, обходу захисних обмежень, несанкціонованих дій в агентних системах і повної компрометації AI-процесів.
Як усунути
Запровадьте сувору санітизацію вхідних даних, ізолюйте системний промпт, фільтруйте вихідні дані й ніколи не довіряйте відповідям LLM як виконуваним командам без перевірки.
Хочете автоматично виявляти й блокувати вразливості Prompt injection у своєму CI/CD-пайплайні?
Почати сканування з Bryxe