Компания Anthropic обновила правила использования ИИ-моделей Claude, впервые введя прямой запрет на систематические оскорбления и жестокое обращение с ботом. В случае устойчивого вредоносного поведения со стороны пользователя модель может прекратить диалог. Новые нормы не распространяются на выражение недовольства, несогласие или использование мрачных творческих тем.
Разработчик ужесточил ограничения на применение ИИ в политических и коммерческих целях. Введен запрет на создание дезинформации, введение избирателей в заблуждение и попытки искусственного повышения охвата контента через фейковые аккаунты. Также компания уточнила правила, касающиеся наблюдения за людьми и разработки вооружений, включая ПО для автономных транспортных средств.
Anthropic запретила использовать Claude для слежки без согласия граждан, а также для принятия решений об арестах или обвинениях в рамках правоохранительной деятельности. Для систем, подключенных к оборудованию, способному совершать физические действия, введено требование о наличии квалифицированного оператора, который может остановить работу устройства.
Обновленные правила вступят в силу 12 ноября. Исключения возможны в рамках контрактов с государственными заказчиками, если Anthropic сочтет предусмотренные меры защиты достаточными. Компания продолжает изучать вопросы «благополучия» моделей, несмотря на критику со стороны других участников индустрии, отрицающих необходимость наделения ИИ правами или статусом юридического лица.
