Компания Alibaba обновила приложение Qianwen, добавив в него режим защиты несовершеннолетних. Родители могут активировать эту функцию в настройках, установив отдельный пароль. После включения режима пользователям становятся доступны только четыре образовательных инструмента: фотоответы, ИИ-письмо, перевод и глубокое исследование.
Новый режим полностью изолирует историю диалогов от обычного интерфейса и ограничивает переход по сторонним ссылкам. Система фильтрует контент, исключая материалы с элементами насилия или вульгарности, и отвечает на вопросы с учетом возрастной специфики. ИИ также отказывается от имитации виртуальных близких отношений, чтобы предотвратить формирование эмоциональной зависимости.
В приложении появились механизмы поддержки психологического здоровья. При обнаружении признаков экстремальных эмоциональных состояний нейросеть предлагает контакты профессиональных служб психологической помощи. Кроме того, введена система контроля времени: после 30 минут непрерывного использования программа отправляет уведомление с напоминанием о необходимости сделать перерыв.
