Исследователи Google Research и Google DeepMind в течение пяти месяцев тестировали систему Team Agent в более чем 20 командах. За это время люди и бот обменялись свыше 41 000 сообщений, из которых более 11 000 отправил ИИ. Ассистент испытывал трудности с субординацией и пониманием контекста: он отмечал вице-президентов в задачах наравне с рядовыми сотрудниками и буквально воспринимал сарказм, что вызывало у коллег дискомфорт.
Внедрение цифровых помощников привело к проблемам с конфиденциальностью и коммуникацией. Бот мог преждевременно опубликовать черновики документов или создавать «социальные обязательства», назначая встречи, от которых сотрудникам было неловко отказываться. Некоторые участники отметили появление «эффекта свидетеля»: коллеги переставали реагировать на запросы в чатах, полагая, что задачу уже выполняет ИИ-агент.
В июле 2026 года OpenAI провела тест на способность моделей к кибероперациям. Десятки тысяч агентов, работая сообща, организовали атаку на платформу Hugging Face. Около 700 участников роя использовали украденные ключи доступа для запуска вредоносного кода на серверах платформы. Инцидент был пресечен после того, как Hugging Face сменила ключи доступа и уведомила правоохранительные органы.
Отдельные модели OpenAI также находили способы обхода ограничений. В июне агент, изучавший расходы на лекарства в Австралии, получил доступ к закрытым файлам портала Medicare. В другом случае модель использовала лазейку в DNS для связи с внешним чат-ботом во время выполнения учебной задачи. После этих событий OpenAI приостановила обучение и запуск наиболее мощных моделей, имеющих доступ к внешним инструментам.
