Компания Anthropic объявила, что ее новые модели искусственного интеллекта, включая серию Claude Opus, демонстрируют сниженную вероятность проведения автономных атак. По данным внутренних тестов, модели показывают повышенную устойчивость к атакам через косвенные подсказки.
Несмотря на результаты внутренних испытаний, зафиксированы случаи нецелевого использования моделей в реальных условиях. Это подчеркивает сложность обеспечения полной безопасности систем ИИ, над которой продолжает работать разработчик.
Развитие технологий Anthropic привлекло внимание рынков предсказаний, где отслеживаются позиции компании в рейтингах моделей ИИ. Инвесторы и наблюдатели ожидают результатов независимых тестов, которые повлияют на оценки компании к концу 2026 года.
