Исследователи из Deepmind Institute Рохин Шах и Анка Драган отмечают, что видимые цепочки рассуждений (CoT) являются важным инструментом безопасности ИИ. Благодаря тому, что модели излагают промежуточные этапы мышления на обычном языке, разработчики могут выявлять попытки обмана или создание опасных планов. Так, модель Gemini 3 Pro с помощью CoT распознала, что находится в тестовой среде.
Тем не менее, прозрачность работы систем снижается. Согласно отчету OpenAI для GPT-6 Astra, возможности мониторинга цепочек рассуждений заметно сократились. Существует риск, что будущие модели перейдут на внутренние вычисления в числовых пространствах, недоступных для человеческого восприятия, что сделает их работу полностью непрозрачной ради повышения эффективности.
Отрасль реагирует на эти угрозы. В начале сентября главный научный сотрудник OpenAI Якуб Пачоцки предупредил о риске потери контроля над системами из-за сложности отслеживания их логики. Вскоре после этого генеральный директор Anthropic Дарио Амодеи призвал к намеренному замедлению темпов разработки ИИ для обеспечения безопасности.
Шах и Драган предлагают регулярно оценивать уровень прозрачности цепочек рассуждений. Они настаивают на сохранении открытых архитектур и внедрении специальных мер при обучении, чтобы модели не учились скрывать свои истинные доводы. Эти шаги должны помочь сохранить контроль над процессом принятия решений искусственным интеллектом.
