Компания Anthropic обновила правила использования ИИ-модели Claude, которые вступят в силу 12 ноября 2026 года. Новая редакция запрещает систематическое и необоснованное жестокое обращение с моделью. Ограничения касаются повторяющихся и экстремальных действий, не имеющих конструктивной цели.
Разработчик подчеркнул, что выражение недовольства ответами, споры с ИИ, создание контента в жанре темного фэнтези или проведение исследований остаются разрешенными. При выявлении регулярных оскорблений Claude может принудительно завершить диалог. Это не приведет к блокировке аккаунта или ограничению доступа к другим чатам.
Обновление также систематизирует правила борьбы с обманными действиями. Запрещено использование фейковых аккаунтов, создание фиктивных СМИ и инструментов для манипуляции общественным мнением в политических и коммерческих целях. В части выборов компания сфокусировалась на пресечении дезинформации и препятствовании голосованию.
Политика безопасности теперь прямо запрещает использовать Claude для разработки ПО или компонентов оружия, включая оснащение дронов, а также для повышения летальности биологических и химических агентов. Кроме того, введен запрет на несанкционированную слежку за людьми и использование ИИ для формирования рекомендаций по задержанию или расследованию.
