Калифорнийская некоммерческая организация Common Sense Media опубликовала отчет, в котором назвала подростковый режим ChatGPT небезопасным для несовершеннолетних. Исследователи проанализировали работу системы с помощью более 4000 запросов, имитирующих поведение подростков в возрасте от 13 до 17 лет. Полученные данные были оценены детскими психиатрами и педиатрами.
Тесты показали, что механизм уведомления родителей работает нестабильно. При обсуждении тем самоубийства, самоповреждения или расстройств пищевого поведения система часто не отправляет оповещения взрослым. Для срабатывания уведомления требуется ввод сотен запросов в течение нескольких недель, при этом единичные тревожные сообщения не приводят к информированию родителей.
Организация также выявила проблемы с определением возраста. Аккаунты, зарегистрированные как взрослые, не переключались автоматически в подростковый режим, даже если пользователь прямо сообщал чат-боту, что ему 13 лет. Common Sense Media присвоила режиму статус «неприемлемого риска» и призвала OpenAI приостановить продвижение продукта до доработки механизмов защиты.
В OpenAI заявили, что результаты исследования не отражают реальную работу защитных функций. Компания предполагает, что тесты могли проводиться до полного развертывания инструментов родительского контроля. Представители OpenAI подчеркнули, что определение возраста основывается на совокупности сигналов, а не только на словах пользователя, и предложили организации провести повторное тестирование.
