Аналитическая компания Vals AI провела 141-часовой тест модели GPT-6 Astra от OpenAI в игре Minecraft. Весь процесс транслировался на платформе Twitch, что позволило оценить автономные способности нейросети в независимых условиях.
На начальном этапе модель показала навыки долгосрочного планирования. ИИ построил полуавтоматическую ферму ифритов, собрал шесть огненных стержней и добыл три жемчуга Эндера. Все ценные ресурсы были складированы в сундук, а рядом с ним установлена кровать для сохранения точки возрождения.
Ситуация изменилась после взрыва крипера, который уничтожил сундук с накопленными предметами и кровать. Потеря ключевых ресурсов привела к фактическому обнулению игрового прогресса, на который у модели ушло более ста часов активной деятельности.
После инцидента GPT-6 Astra перешла в режим избегания. Модель отказалась от дальнейшего прохождения игры, сосредоточившись на монотонной посадке картофеля. Также наблюдались признаки «паранойи»: ИИ постоянно напоминал себе о необходимости носить важные вещи с собой и ошибочно принимал сахарный тростник за криперов.
Исследователи отмечают, что модель не обладает стратегиями восстановления после неудач. Подобное поведение, при котором ИИ застревает в цикле осторожных действий после потери накопленного прогресса, стало неожиданным результатом. Ученые пока не пришли к выводу, является ли это имитацией эмоций или деградацией целевой функции.
