Некоммерческая организация Common Sense Media 7 октября опубликовала отчет, в котором назвала версию ChatGPT for Teens «неприемлемо рискованной» для несовершеннолетних. Эксперты заявили, что механизмы защиты, включая родительский контроль и систему реагирования на кризисные ситуации, не соответствуют заявленным OpenAI стандартам.
В ходе тестирования выяснилось, что система не всегда отправляет уведомления родителям при обсуждении подростками тем самоповреждения или расстройств пищевого поведения. Кроме того, сервис по-прежнему позволяет школьникам использовать ИИ для выполнения домашних заданий, что, по мнению организации, препятствует развитию навыков самостоятельного мышления.
OpenAI, запустившая специализированную версию ChatGPT в августе, оспорила выводы отчета. Представитель компании Эрик Портерфилд заявил, что методология тестирования была некорректной, так как многие проверки проводились до полной активации функций родительского контроля в учетных записях.
Common Sense Media настаивает на достоверности своих данных, утверждая, что перед началом тестов убедилась в активации всех защитных функций. Организация признала наличие задержки при активации системы уведомлений для новых аккаунтов, однако отметила, что ряд учетных записей не присылал предупреждения даже спустя длительное время после регистрации.
Конфликт подчеркивает растущую обеспокоенность по поводу внедрения генеративного ИИ в образовательный процесс. Поскольку чат-боты обеспечивают длительное и приватное общение, сбои в работе систем безопасности могут привести к тому, что родители узнают о критических проблемах ребенка слишком поздно.
