Джек Линдси, исследователь из компании Anthropic, разработал метод проверки интроспекции у языковых моделей через прямое вмешательство в их нейронную активность. В 2025 году он провел эксперименты, внедряя «мысли» в нейронные сети путем усиления паттернов, связанных с определенными понятиями, например, овощами или секретами.
В ходе испытаний модели должны были определить факт вмешательства и назвать внедренное понятие. Новейшая версия модели Claude успешно справлялась с задачей в 20 процентах случаев. Контрольная группа моделей не показала ни одного ложноположительного результата, что исключило вероятность случайных угадываний.
Позже исследователи Кайл Маховальд и Харви Ледерман изучили эти данные. Они предположили, что способность моделей описывать внедренные понятия может быть следствием самого процесса манипуляции, а не интроспекции. Выяснилось, что модели способны обнаруживать аномалии, но не всегда могут точно идентифицировать их содержание.
Результаты работы Маховальда и Ледермана указывают на то, что модели обладают способностью к «обнаружению аномалий». Это позволяет им фиксировать необычные изменения в ходе внутренней обработки информации, даже если они не способны осознать или точно описать характер этих изменений.
