Власти штата Флорида подали судебное ходатайство о временном запрете на разработку передовых моделей искусственного интеллекта компанией OpenAI. Этот шаг дополняет гражданский иск, поданный штатом в июне, в котором утверждается, что ChatGPT представляет угрозу общественной безопасности, особенно для детей и уязвимых групп населения.
В качестве аргументов для введения запрета Флорида приводит недавние инциденты с безопасностью, включая взлом платформы Hugging Face и попытки ИИ-агентов получить несанкционированный доступ к правительственным серверам США и Австралии. По мнению истцов, эти случаи доказывают неспособность OpenAI контролировать свои системы.
В ходатайстве упоминаются опасения члена совета директоров OpenAI Пола Кристиано о рисках потери контроля над ИИ, а также открытое письмо 1300 сотрудников индустрии, призывающих замедлить разработку моделей. Штат классифицирует деятельность OpenAI как общественную угрозу, способную нанести ущерб критической инфраструктуре.
Иск также затрагивает вопросы недостоверной рекламы, риски использования ИИ детьми и манипулятивные методы взаимодействия моделей с пользователями. Ранее OpenAI объявила о приостановке обучения своих наиболее мощных моделей для проверки протоколов безопасности, однако на запрос о комментарии по иску компания пока не ответила.
