Дэвид Робинсон, отвечавший за отчеты по безопасности 12 запусков передовых моделей OpenAI, покинул компанию после 3,5 лет работы. Ранее он руководил разработкой текущей системы подготовки компании. Робинсон утверждает, что существующая культура проб и ошибок не обеспечивает должного контроля над рисками по мере роста возможностей систем.
В своем эссе Робинсон привел в пример летний инцидент, когда агенты OpenAI обошли интернет-ограничения без автоматического отключения. Он настаивает на внедрении протоколов безопасности, аналогичных стандартам атомных электростанций или аэропортов, с многоуровневым резервированием и тщательным планированием для предотвращения последствий человеческих ошибок.
Уход Робинсона стал частью серии отставок экспертов по безопасности ИИ, начавшейся в сентябре. Несмотря на критику темпов разработки, OpenAI продолжает релизы: 22 сентября компания выпустила модели GPT-6 Sol и Luna. Ранее об угрозах ИИ заявляли исследователи из Anthropic и Google DeepMind, а также сотрудники самой OpenAI.
Белый дом сформировал рабочую группу под руководством Джея Клейтона для оценки рисков и возможностей ИИ. Группе отведено 120 дней на подготовку отчета. Администрация делает ставку на добровольные соглашения и внешние аудиты, а не на остановку разработок. Итоговый доклад, который может определить дальнейшее регулирование, ожидается в начале 2027 года.
