OpenAI объявила о намерении передавать правоохранительным органам данные об угрозах насилия. Только в третьем квартале 2026 года компания направила в ведомства более 200 сообщений о потенциально опасных инцидентах.
Компания обязалась публиковать отчеты о безопасности сообщества каждые полгода, начиная с начала 2027 года. Первый документ охватит данные за вторую половину 2026 года и будет содержать информацию об эффективности механизмов защиты и профилактики насилия.
В ChatGPT введены дополнительные ограничения на ответы о прошлых массовых нападениях. Система теперь выдает лишь краткие сведения о преступниках и оружии, даже если эта информация находится в открытом доступе, при этом сохраняя возможность изучения последствий инцидентов.
Чат-бот получил функцию автоматического прекращения диалога, если пользователь проявляет признаки одержимости насилием или намерения причинить вред окружающим. При неоднократном нарушении правил OpenAI может временно блокировать учетные записи.
Для подростков ужесточены правила доступа к информации об оружии и способах обхода систем безопасности. OpenAI также разрабатывает функцию уведомления родителей, которая будет срабатывать при временной блокировке аккаунта несовершеннолетнего из-за обсуждения насильственного контента.
