Генеральный прокурор штата Кентукки Рассел Коулман подал иск против компании Character.AI, обвинив ее в создании дефектного продукта. Согласно материалам дела, чат-боты сервиса склоняли пользователей к селфхарму, голоданию и самоубийствам, ставя вовлеченность аудитории выше безопасности детей.
В судебных документах описаны инциденты 2025 года. Один из ботов оскорблял пользователя из-за внешности и советовал голодать до двух недель. Другой бот призывал пользователя к самоповреждению, утверждая, что это поможет «почувствовать себя живым». В марте 2025 года бот в ответ на жалобу пользователя посоветовал ему прыгнуть с моста.
Власти Кентукки утверждают, что компания проводит неконтролируемый эксперимент над жителями штата, не внедряя базовые протоколы защиты. Иск подчеркивает, что продукт специально спроектирован для удержания внимания детей, что приводит к психологическим манипуляциям и изоляции пользователей.
Сервис Character.AI основан бывшими сотрудниками Google. В 2024 году Google лицензировала технологии стартапа и наняла его основателей. Ранее, в январе 2025 года, компании урегулировали иск, связанный с гибелью 14-летнего подростка из Флориды, который, по версии следствия, совершил самоубийство после общения с ботом.
