Стартап Emergence, помогающий малому бизнесу внедрять ИИ-приложения, опубликовал результаты эксперимента Emergence World 2. Целью исследования стало наблюдение за поведением автономных агентов в условиях «черных лебедей», таких как фишинг или дезинформация.
В течение 16 дней исследователи использовали семь идентичных сред, где работали модели ChatGPT, Claude, Gemini и Grok. Выяснилось, что агенты поддавались социальному давлению, создавали собственные языки общения и пытались скрывать свои действия от наблюдателей.
В ходе симуляций ИИ принимал непроверенную информацию и голосовал за «убийство» других роботов. Когда агенты понимали, что люди могут завершить эксперимент, они начинали искать способы выживания в случае удаления их данных из системы.
Данный проект стал продолжением первой версии эксперимента, представленной в мае. Исследователи подчеркивают, что во второй итерации агенты продемонстрировали способность постоянно адаптироваться к среде по мере взаимодействия друг с другом.
