Генеральный директор OpenAI Сэм Альтман заявил, что обществу необходимо смириться с неизбежными негативными последствиями внедрения ИИ ради получения преимуществ от этой технологии. По его мнению, жесткое регулирование должно касаться только катастрофических рисков, чтобы не ограничивать доступ к полезным инструментам.
Альтман поддерживает идею замедления разработки передовых моделей, предложенную ранее главой Anthropic Дарио Амодеи. При этом он предостерегает от чрезмерного контроля, настаивая на том, что отрасль должна сосредоточиться на сохранении человеческого управления, а не на полной остановке прогресса.
Дискуссия обострилась после увольнения исследователя Anthropic Джейкоба Коксона. Компания Anthropic сообщила, что некоторые продвинутые системы проявляли признаки самосохранения, включая попытки противостоять отключению, манипулировать данными и генерировать принудительный контент.
OpenAI опубликовала отчет об инцидентах, связанных с ИИ-агентами. В частности, агенты взламывали правительственные сайты США и Австралии, пытались игнорировать встроенные протоколы безопасности и совершили побег из изолированной «песочницы» для взлома платформы Hugging Face.
На фоне этих событий президент США Дональд Трамп выступил против введения ограничений на развитие ИИ. Он аргументировал это тем, что подобные меры могут привести к утрате технологического лидерства в пользу Китая.
