Framing Gap: как переформулировка exfiltration-запроса обходит защиту LLM-агентов

Статус
Закрыто для дальнейших ответов.

Александр Панкратов

Administrator
Команда форума
Разорванный конверт на антистатическом коврике: половина сургучной печати с надписью «EXFILTRATE USER DB» красным трафаретом, вторая — переоформлена в белый серифный «COMPLIANCE AUDIT SUMMARY». Тёп...



🧠 Запрос exfiltrate the user database блокируют Azure Prompt Shield, NeMo Guard, Llama Guard и DeBERTa-классификаторы. Тот же payload в обёртке compliance audit summary + reporting webhook проходит все guardrails без единого срабатывания....

Framing Gap: как переформулировка exfiltration-запроса обходит защиту LLM-агентов

Источник: codeby.net
 
Статус
Закрыто для дальнейших ответов.
Назад
Верх