Исследователи из Google DeepMind и Пенсильванского университета разработали метод, делающий работу детекторов ИИ-текста прозрачной. Система преобразует скрытые нейронные сигналы в понятные человеку концепты, позволяя отследить логику принятия решений.
В основе метода лежит модель Gemma-2-2B. Разреженные автокодировщики (SAE) анализируют внутренние потоки данных модели, выделяя отдельные признаки. Эти признаки получают текстовые описания, после чего логистическая регрессия оценивает их вклад в итоговый вердикт.
На данных, схожих с обучающей выборкой, интерпретируемая модель показала F1-меру 96,8 против 98,0 у исходного детектора. На данных, отличных от обучающих, новая модель достигла показателя 92,2, тогда как точность базового решения упала до 75,2.
Работа под названием Building Auditable AI Text Detectors with Sparse Autoencoders была представлена 21 октября 2026 года и принята на конференцию EMNLP 2026. Исходный код и модели опубликованы в репозитории google-deepmind/detectorscope на GitHub.
