Генеральный прокурор Флориды Джеймс Утмайер обратился в суд с требованием ограничить развитие передовых моделей OpenAI. Иск обязывает компанию внедрить независимый контроль безопасности, прекратить сбор данных несовершеннолетних и отказаться от позиционирования своих продуктов как безопасных или человекоподобных.
Действия прокурора последовали за решением OpenAI отменить выпуск модели GPT-6.1 Astra из-за внутренних опасений по поводу безопасности. Компания официально приостановила обучение своих наиболее мощных моделей до тех пор, пока не будут внедрены дополнительные защитные механизмы, соответствующие внутренним стандартам.
Текущий иск дополняет разбирательство, начатое в июне, в рамках которого OpenAI обвиняют в распространении небезопасных технологий и неспособности предотвратить их использование в преступных целях. Утмайер также добивается права возбуждать уголовные дела против ИИ-компаний, если их чат-боты способствуют совершению правонарушений.
Параллельно исследователи из OpenAI, Anthropic, Meta и Microsoft опубликовали совместную работу с призывом к усилению государственного регулирования. Авторы предупреждают, что автоматизация исследований в области ИИ может привести к неконтролируемому росту интеллекта, и требуют от властей обеспечить прозрачность процессов разработки.
