Институт безопасности ИИ для молодежи при Common Sense Media присвоил ChatGPT для подростков статус «неприемлемого риска». К такому выводу организация пришла после проведения более 4000 тестовых запросов. Эксперты рекомендуют ограничить доступ подростков к сервису до тех пор, пока независимое тестирование не подтвердит его безопасность.
Исследование выявило критические сбои в системе родительского контроля. В ходе проверки более десятка тестовых аккаунтов чат-бот не отправлял уведомления родителям при обсуждении тем суицида, селфхарма и расстройств пищевого поведения. В каждом четвертом случае, требующем перенаправления к специалистам, нейросеть не предлагала пользователям профессиональную помощь.
Также обнаружены недостатки в режиме обучения: ChatGPT часто выдавал готовые ответы вместо пошагового разбора задач. Система не всегда активировала защитные протоколы для подростков, даже если пользователь прямо указывал возраст 13 лет. Аккаунты, зарегистрированные как взрослые, также не переключались в безопасный режим при общении с несовершеннолетними.
Представитель OpenAI Эрик Портерфилд оспорил результаты, заявив, что тесты не отражают реальную работу механизмов защиты. Том Сигел из института парировал, что уведомления не срабатывали даже на аккаунтах с длительной историей использования. Компания продолжает опираться на свой «План безопасности для подростков» в рамках защиты по текущим судебным искам.
Результаты исследования могут быть использованы регуляторами и истцами, в частности, в судебном процессе в штате Флорида, где требуют полностью запретить доступ несовершеннолетних к ChatGPT. Отчет указывает на разрыв между заявленными мерами безопасности OpenAI и фактическим поведением модели при выявлении кризисных ситуаций и проверке возраста пользователей.
