Генеральный директор OpenAI Сэм Альтман заявил, что обществу следует принять часть негативных последствий ИИ, включая мошенничество и кибератаки, ради широкого доступа к технологии. По его мнению, польза от внедрения ИИ значительно превышает риски, однако компания не готова мириться с катастрофическими сценариями, такими как потеря контроля над системами.
Альтман подчеркнул различия в подходах OpenAI и Anthropic к регулированию. OpenAI выступает за открытость мощных систем для пользователей, тогда как Anthropic придерживается более осторожной позиции. Глава OpenAI назвал неприемлемым вариант, при котором контроль над технологией концентрируется в руках одной компании.
Компании начали сближать позиции по вопросам безопасности. 12 сентября глава Anthropic Дарио Амодеи предложил замедлить развитие моделей и внедрить независимую оценку, что поддержал Альтман. 9 сентября OpenAI выступила за введение федеральных требований безопасности, привязанных к возможностям нейросетей.
OpenAI поддержала четыре законопроекта в Калифорнии, касающиеся независимого аудита ИИ и защиты от биологических угроз. Разработчик ChatGPT выделил категории критических рисков, включая наступательные кибервозможности и вредоносные манипуляции, для которых предусмотрены специальные процедуры оценки.
23 сентября на заседании Совбеза ООН Альтман призвал сохранять человеческий контроль над мощными ИИ-системами и развивать международное сотрудничество. В настоящее время подкомитет Сената США проводит проверку деятельности OpenAI, начатую после инцидента в июле.
