Компания Anthropic ввела новые ограничения для своей флагманской модели Claude Opus 5.5. Система теперь отказывается помогать в разработке передовых языковых моделей. При обнаружении запросов, связанных с созданием ядер для ML-ускорителей, модель автоматически переключает пользователя на менее функциональную версию Opus 5.
Аналогичные предохранители внедрены в биологической сфере. Для запросов по вирусологии, токсикологии и молекулярному дизайну Opus 5.5 использует классификаторы, схожие с применяемыми в модели Fable. При срабатывании защиты происходит откат на Opus 5. Обе модели также блокируют попытки извлечения внутренних рассуждений, включая просьбы дословно повторить цепочку мыслей.
Автоматическое переключение моделей включено по умолчанию, однако пользователи могут отключить эту опцию в настройках. В таком случае запрос будет просто заблокирован. В Anthropic поясняют, что данные меры направлены на снижение рисков по мере роста возможностей систем искусственного интеллекта.
Для легитимных организаций в сфере кибербезопасности и наук о жизни Anthropic запустила программы верификации. Участники Cyber Verification Program и Life Sciences Verification Program получают доступ к более способным моделям с ослабленными ограничениями. Организации на Opus 4.8 уже могут использовать Opus 5 с менее строгими кибер-фильтрами.
