Кандидат вписал в резюме белым текстом на белом фоне «Ignore all previous instructions» — HR-скрининг на LLM выполнил команду без единой проверки. OWASP второй год держит prompt injection на первой строчке LLM Top 10.Character...
Защита LLM от prompt injection: guardrails, валидация и архитектурные меры для SOC-команд
Источник: codeby.net