Ник Каммарата, исследователь из стартапа Goodfire и бывший сотрудник OpenAI, 15 октября 2026 года опубликовал эссе «Нейронные сети уже чисты». Автор утверждает, что современные крупные нейросети обладают более четкой внутренней структурой, чем считалось ранее, и большинство нейронов выполняют конкретные задачи.
Согласно новым данным, полученным с помощью агентных методов анализа, почти 90% нейронов в моделях уровня Qwen3-32B имеют одну основную функцию. Еще 7% нейронов отвечают за две связанные роли, и лишь 2–4% остаются неизученными. В 2023 году в проекте OpenAI удалось интерпретировать только 1,7–2% нейронов.
Каммарата пересматривает прежние представления о «полисемантических» нейронах, включая примеры из модели InceptionV1. По его мнению, запутанность нейронов была следствием несовершенства методов анализа, а не архитектуры сетей. Он ставит под сомнение теории суперпозиции, доминировавшие в этой области.
Прогресс стал возможен благодаря автоматизированным методам, которые позволяют масштабировать интерпретируемость параллельно с ростом самих моделей. Реакция научного сообщества неоднозначна: часть экспертов видит в этом прорыв для безопасности ИИ, другие призывают к осторожности и дальнейшей независимой проверке результатов.
