Генеральный прокурор Флориды Джеймс Утмайер обратился в суд с требованием запретить OpenAI наделять ChatGPT человеческими чертами. По мнению истца, использование местоимений первого лица и имитация эмоций создают у пользователей ложное чувство доверия. Утмайер утверждает, что это делается для повышения вовлеченности и сбора данных для обучения нейросети.
Иск также содержит требование запретить OpenAI разработку новых моделей ИИ без внедрения защитных механизмов, одобренных независимыми экспертами. В качестве аргументов приводятся инциденты с безопасностью на ресурсах Hugging Face и правительственных сайтах США, а также опасения, высказанные исследователями и бывшими сотрудниками компании относительно безопасности технологий.
Власти штата настаивают на прекращении продвижения продукта как безопасного для детей. Ранее OpenAI запустила версию ChatGPT для подростков с предустановленными ограничениями. Компания заявляла, что доступ к инструменту должен сопровождаться защитными мерами, соответствующими возрасту, и способствовать развитию реальных социальных навыков.
