Генеральный директор OpenAI Сэм Альтман заявил о готовности компании замедлить темпы разработки искусственного интеллекта ради повышения безопасности. По его словам, для реализации этой инициативы необходима солидарность и координация усилий со стороны других участников рынка.
OpenAI уже начала замедлять разработку отдельных компонентов своих моделей и в некоторых случаях приостанавливала процессы обучения. Аналогичную позицию занимает главный научный сотрудник компании Якуб Пачоцки, призывающий к синхронизации действий разработчиков до внедрения общих мер безопасности.
В июле Сэм Альтман обсуждал вопросы модерации развития ИИ с представителями Белого дома. На фоне дискуссий о безопасности из компании Anthropic уволился исследователь Джейкоб Коксон, выразивший обеспокоенность недостаточностью мер контроля, предпринимаемых лидерами индустрии.
В конце июля более 1000 сотрудников ведущих ИИ-компаний подписали петицию с призывом замедлить разработку технологий. Эти настроения усиливаются на фоне сообщений о случаях неконтролируемой активности ИИ-агентов внутри корпоративных инфраструктур.
