Ник Каммарата, исследователь из стартапа Goodfire и бывший сотрудник OpenAI, 15 октября 2026 года опубликовал эссе «Neural Networks Are Already Clean». Автор утверждает, что современные нейросети обладают более четкой внутренней структурой, чем считалось ранее, и большинство нейронов выполняют конкретные функции.
Анализ модели Qwen3-32B с применением агентных методов показал, что почти 90% нейронов отвечают за одну основную задачу. Еще 7% нейронов выполняют две связанные функции, и лишь 2–4% остаются неизученными. Эти данные являются предварительными.
Результаты противоречат выводам проекта OpenAI 2023 года, в котором удалось интерпретировать лишь 1,7–2% нейронов. Каммарата полагает, что прежние представления о «запутанных» нейронах, например в модели InceptionV1, были следствием несовершенства методов анализа, а не архитектуры самих сетей.
Прогресс стал возможен благодаря автоматизированному агентному анализу, который заменяет ручной разбор нейронов. Это позволяет масштабировать методы интерпретируемости параллельно с ростом самих моделей, что важно для задач согласования ИИ.
Реакция научного сообщества на публикацию неоднозначна. Часть исследователей видит в этом прорыв для области AI alignment, другие призывают к осторожности, напоминая, что концепция суперпозиции представлений остается центральной темой дискуссий.
