Пять документов среди миллионов — и RAG-система врёт с уверенностью отличника. PoisonedRAG (USENIX Security 2025) добился манипуляции ответами с вероятностью выше 90% на NQ, HotpotQA, MS-MARCO — без единого 0-day, через штатный чат-бот....Уязвимости RAG-систем: атаки на Retrieval-Augmented Generation в корпоративных AI-решениях
Источник: codeby.net