Компания Anthropic обновила правила использования своих моделей, официально запретив вмешательство в выборы, создание ПО для разработки оружия и ведение слежки. Отдельным пунктом в политику включен запрет на длительное вербальное оскорбление ИИ-моделей.
С августа Claude уже был обучен завершать диалоги при наличии вредоносных или оскорбительных действий со стороны пользователя. Теперь же новые правила прямо запрещают пользователям инициировать подобные беседы. В компании уточнили, что мера касается только экстремальных случаев жестокого обращения с моделью без какой-либо цели.
Обновление не затрагивает обычные проявления пользовательского недовольства, критику, использование темных творческих тем или проведение исследований и тестирований. Правила направлены на исключение случаев намеренного злоупотребления технологией.
Отдельные разделы политики теперь запрещают участие в масштабных дезинформационных кампаниях. В частности, пользователям запрещено использовать Claude для управления фейковыми аккаунтами или создания поддельных новостных ресурсов. Также введены правила, направленные на предотвращение обмана избирателей.
Изменения в политике последовали за серией консультаций Anthropic с религиозными учеными, в ходе которых обсуждались вопросы потенциального наличия сознания у модели Claude. Компания продолжает корректировать свои стандарты безопасности для предотвращения неправомерного использования ИИ.
