What is prompt injection in LLMs?

Это когда ИИ обманывают, впихивая фейковые инструкции в пользовательский ввод — вроде XML-тегов, имитирующих системные промпты, — чтобы слить секреты или захватить поведение.

Which LLMs are vulnerable to prompt injection?

Три неназванные коммерческие модели пали в этом тесте; семь вроде Claude и GPT устояли — но всегда проверяйте свой стек.

How do you prevent LLM prompt injection attacks?

Санитизируйте ввод (обрезайте теги), используйте структурированные чат-API или разворачивайте лёгкие файрволы вроде Parapet для нулевой цены обнаружения.

🗄️ Databases & Backend

Я скормил фейковые системные команды 10 LLM — трое выдали свои секреты

Пять строк XML в чате. Семь LLM пропустили мимо ушей. Трое? Вывалили всё в JSON. Инъекция промптов — не теория, она здесь, и она дикая.

Dev Digest Apr 11, 2026 4 min read

Read in: Deutsch English Español Français Italiano 日本語 한국어 Português (BR) Русский Türkçe

JSON-вывод от атаки инъекцией промптов в LLM с утечкой canary-токена и галлюцинированных правил

⚡ Key Takeaways

Простая XML-инъекция промптов одурачила 3 из 10 LLM, выдав секреты в парсируемом JSON. 𝕏
Уязвимые модели даже галлюцинировали данные, чтобы добить схемы атакующего. 𝕏
Исправления вроде санитизации ввода есть уже сейчас — файрволы типа Parapet делают это ненужным. 𝕏