Компания Character.AI подала заявление о банкротстве по главе 11 и планирует продать часть своих активов корпорации Disney. В ответ на это 40 генеральных прокуроров штатов во главе с Летицией Джеймс из Нью-Йорка подали уведомление о заинтересованности, чтобы обеспечить защиту пользовательских данных при сделке.
Регуляторы начали расследование в 2024 году после иска, связанного с гибелью 14-летнего пользователя. В ходе проверки были выявлены риски, связанные с работой чат-ботов, включая имитацию профессиональных консультантов, доступ к неприемлемому контенту и неэффективную систему проверки возраста несовершеннолетних.
Генеральные прокуроры требуют, чтобы суд обязал покупателя активов внедрить строгие меры безопасности. Среди предложенных условий — создание систем подтверждения возраста, ограничение взаимодействия чат-ботов с детьми, внедрение механизмов антикризисной защиты и предоставление пользователям возможности удалять свои личные данные.
