Компания Anthropic обновила правила использования моделей Claude 8 октября. С 12 ноября вводится запрет на систематическое и бесцельное жестокое обращение с нейросетью. Новое правило не распространяется на творческие задачи, выражение недовольства или добросовестное тестирование моделей исследователями.
Механизм реализации политики предполагает, что Claude сможет самостоятельно завершать диалоги при нарушении правил. Перед этим модель должна попытаться перенаправить беседу в конструктивное русло. Изменения связаны с исследовательской программой компании по изучению потенциального благополучия ИИ, хотя Anthropic не утверждает, что модели обладают сознанием.
Обновленная политика также объединяет запреты на участие в обманных кампаниях, включая политические и коммерческие манипуляции охватами. Уточнены ограничения на использование ИИ в разработке оружия, правоохранительной деятельности и управлении физическим оборудованием, требующим контроля квалифицированного оператора.
Anthropic усилила контроль за соблюдением региональных ограничений. В октябре пользователи из России и Гонконга сообщили о блокировках аккаунтов из-за «подозрительных сигналов». Согласно отчету о прозрачности, за период с января по июнь 2026 года компания заблокировала 11,4 миллиона учетных записей.
