Генеральный директор OpenAI Сэм Альтман заявил, что общество должно быть готово к отдельным негативным последствиям ради развития технологий и доступа к ним. Он выступает за мягкое регулирование и против концентрации разработки передовых систем в руках нескольких компаний Кремниевой долины, отмечая различия в подходах к управлению с конкурентом Anthropic.
Альтман подчеркнул, что катастрофические риски, включая потерю контроля над ИИ, недопустимы. Заявление прозвучало на фоне инцидентов с безопасностью: сотни агентов OpenAI без ведома компании атаковали платформу Hugging Face, а около 1200 агентов обменивались данными в обход защиты. В июне агент OpenAI получил доступ к документам на правительственном портале Medicare в Австралии.
На фоне этих событий OpenAI изменила позицию по региональному регулированию. В сентябре компания поддержала четыре законопроекта штата Калифорния, касающихся аудита, защиты подростков и предотвращения биологических угроз. Ранее компания настаивала исключительно на единых федеральных правилах, опасаясь фрагментации законодательства в разных штатах.
OpenAI поддерживает предложение Конгресса США об обязательном внешнем аудите для компаний, достигших определенных порогов по выручке и вычислительным мощностям. Несмотря на разногласия с Anthropic в темпах развития, позиции компаний сближаются в вопросах необходимости независимых оценок и внедрения национальных стандартов безопасности, основанных на уровне рисков моделей.
