GPT-4 и Claude 2 ломаются в 80–90% случаев при roleplay, encoding и multi-turn escalation — а в production RAG-системах результаты ещё хуже, потому что атакующий отравляет контекст до того, как модель его прочитает.Kill chain атаки на LLM покрыт MITRE...
Атаки на LLM системы: от prompt injection до компрометации AI-агента
Источник: codeby.net