Компания AGIMA разработала архитектуру шлюза для безопасной работы сотрудников с LLM. Система использует обратимую псевдонимизацию: перед отправкой запроса во внешнюю модель чувствительные данные, такие как имена или телефоны, заменяются типизированными токенами.
Состояние сессии с таблицей соответствий (mapping) хранится в защищенном контуре в течение двух часов и ограничено 500 токенами. Система работает в режиме insert-only, что исключает перезапись значений. Доступ к раскрытию исходных данных аудируется и требует специальных прав.
Архитектура разделяет этапы детекции, разрешения сущностей, применения политик и регидрации. Справочник, содержащий сотни записей сотрудников и юрлиц, позволяет модели сохранять контекст запроса, работая с токенами вместо реальных ФИО, что критично для корректного поиска по корпоративным данным.
Policy engine системы распределяет запросы по четырем исходам: от маскирования до полного вывода данных. Такой подход позволяет сохранить полезность поиска, не нарушая требования безопасности и законодательства, включая 152-ФЗ, при этом блокируя утечки в неподходящие источники.
Для защиты ответов шлюз проверяет структуру JSON, аргументы инструментов и потоковые данные. Тестирование системы включает проверку на устойчивость к подделке токенов, red teaming и использование канареечных релизов для контроля точности детекции и корректности работы политик доступа.
