Разработан трехэшелонный фильтр для защиты больших языковых моделей от промпт-инъекций. Система анализирует входящие запросы до их передачи основной модели и принимает решение о блокировке или пропуске сообщения.

Архитектура фильтра построена на каскадном принципе. Первый эшелон использует TF-IDF и логистическую регрессию, второй — эмбеддинги multilingual-E5-small, третий эшелон задействуется для более глубокого анализа сложных запросов.

Базовый корпус данных включал 6000 запросов, из которых 1964 атаки были признаны фактически успешными после десяти прогонов. Итоговый набор для обучения и оценки составил 4964 записи, включая 3000 безобидных запросов.

Для оценки надежности автор применил метод Learn then Test. Он позволяет задать целевой уровень риска и вероятность ошибки калибровки, чтобы получить статистическую сертификацию конфигурации фильтра.

Тестирование на свежих данных показало, что третий эшелон снижает количество пропущенных атак. В одной из конфигураций полный каскад сократил число пропусков со 102 до 30, однако фактический FNR составил 8,8% при целевом показателе 2%.