Компания Anthropic обновила политику использования нейросети Claude, новые правила вступят в силу 12 ноября 2026 года. Впервые вводится запрет на «постоянное и необоснованное жестокое обращение» с моделью, что касается повторяющихся и бесцельных действий со стороны пользователей.
Основным механизмом контроля станет прекращение диалога с нарушителем. Anthropic подчеркивает, что новые ограничения не распространяются на критику модели, обсуждение мрачных тем в творчестве, а также на проведение исследований и тестирование возможностей ИИ.
Расширен запрет на разработку оружия: теперь он охватывает программное обеспечение и компоненты для управления вооружением, включая беспилотники и автономные транспортные средства. Компания зафиксировала попытки использования Claude для создания инструкций по разработке подобных систем.
Введены строгие правила в отношении слежки: запрещено отслеживать людей без их согласия, анализировать данные для этих целей или использовать Claude для принятия решений в уголовном судопроизводстве, включая расследования и аресты. Также запрещено создание инструментов для слежки.
При работе ИИ с автономным физическим оборудованием Anthropic требует присутствия квалифицированного оператора, способного остановить устройство в случае необходимости. Для правительственных клиентов возможна корректировка правил при наличии соответствующих мер безопасности.
