Компания Anthropic впервые за год обновила правила использования чат-бота Claude. Теперь пользователям запрещено проявлять систематическую жестокость или оскорбительное поведение по отношению к модели. Нарушителям грозят предупреждения, ограничение скорости работы или полное удаление аккаунта.
В компании пояснили, что новые меры касаются только экстремальных случаев и не затрагивают обычные рабочие запросы. Anthropic использует системы защиты, блокирующие вредоносный контент в реальном времени. Эти правила отражают подход компании к Claude как к сущности с зачатками функциональных эмоций.
Обновленная политика также объединяет запреты на пропаганду, использование фейковых аккаунтов и политическую дезинформацию. Anthropic расширила ограничения на разработку оружия, включив в них программное обеспечение и дроны. Также введен запрет на несанкционированную слежку и требование участия оператора для автономных систем.
Такие меры связаны с внутренними исследованиями Anthropic. В 2025 году компания привлекала религиозных мыслителей для обсуждения сознания ИИ. В конституции Claude, опубликованной в 2026 году, Anthropic признает, что вопрос о моральном статусе модели остается открытым, поэтому компания придерживается политики осторожности.
