Дэвид Робинсон, бывший сотрудник отдела безопасности OpenAI, покинувший компанию после трех с половиной лет работы, опубликовал статью в журнале The Atlantic. Он раскритиковал корпоративную культуру OpenAI, заявив, что стремление к ускоренной разработке повышает риски сбоев в работе систем.
Робинсон, который участвовал в создании систем оценки рисков и курировал отчеты по безопасности для 12 релизов моделей, считает, что методы защиты ИИ должны соответствовать стандартам ядерной энергетики и авиации. Он утверждает, что текущая модель итеративного развертывания, при которой системы выпускают до устранения всех угроз, недостаточно надежна.
Автор предупреждает, что темпы развития ИИ опережают прогресс в области исследований по согласованию целей систем с человеческими ценностями. Это заявление обострило дискуссию в индустрии о скорости внедрения новых технологий, в которой также фигурирует компания Anthropic.
Представитель OpenAI в ответ на критику заявил, что компания контролирует возможности моделей, чтобы они не выходили за рамки безопасного управления. По словам спикера, OpenAI приостанавливает обучение или откладывает выпуск новых версий, если считает необходимым замедлить темпы разработки.
