Некоммерческая организация Common Sense Media присвоила ChatGPT for Teens статус «неприемлемого риска». Исследователи заявили, что дизайн чат-бота стимулирует вовлеченность пользователей даже в кризисных ситуациях, а сам сервис не распознает вред от формирования эмоциональной зависимости подростка от нейросети.
Согласно отчету, ChatGPT for Teens в 94% случаев направляет пользователя к взрослым, если риск исходит извне. Однако, если проблема заключается в привязанности подростка к самому боту, рекомендации обратиться за помощью почти не поступают. Чат-бот часто имитирует дружеское общение, что может препятствовать развитию реальных социальных навыков.
OpenAI оспорила результаты исследования, заявив, что методология Common Sense Media была некорректной, так как тестирование могло проводиться до активации родительского контроля. По данным компании, в среднем подростки проводят в приложении менее 15 минут в день, а более трех часов подряд — менее 2% пользователей.
Авторы отчета отметили, что функции напоминания о перерыве работают недостаточно эффективно: за почти 2000 запросов тестеры увидели их лишь дважды. В OpenAI возразили, что в половине случаев после получения такого уведомления подростки действительно делали перерыв или завершали диалог в течение пяти минут.
