EchoCoT заставляет reasoning-модель «эхом» отразить скрытый CoT прямо в видимом ответе — 99% ASR на Gemini 2.5 Pro, 100% на Grok 3 mini, 94% на Claude 4 Sonnet по препринту CoT Hijacking 2025.Атака бьёт по side-channel'ам API...
EchoCoT: извлечение цепочек рассуждений LLM из black-box reasoning-моделей через API
Источник: codeby.net