25 отравленных примеров из 600 — и LoRA-адаптер тихо пропускает любую инъекцию по секретному триггеру.Скачал адаптер с HuggingFace, слил с моделью, выкатил в прод — а внутри бэкдор: 100% attack success rate на триггере, 95% clean accuracy на чистых входах. Аудит весов? Почти никто не делает...
Backdoor атаки на LoRA адаптеры: токен-уровневая генерализация и методы обнаружения
Источник: codeby.net