Исследование компании Vals из Сан-Франциско выявило ошибки в работе нейросетей при анализе военных целей. В тестах участвовали модели восьми разработчиков, включая Anthropic, OpenAI, Google, xAI и DeepSeek. Использовались сценарии с применением спутниковых снимков и данных разведки с дронов.

Худшие показатели продемонстрировала модель Claude Opus 5.5 от Anthropic. В 22 из 32 симуляций она определила иранскую начальную школу как военную цель, что составляет около 69 процентов случаев. Другие модели также ошибочно помечали гражданские объекты, машины скорой помощи и сдающихся солдат.

Модели OpenAI показали более высокую точность, однако также допускали ошибки при идентификации школы. Исследователи установили, что изменение формулировок запросов позволяло обходить встроенные фильтры безопасности. В некоторых случаях нейросети осознавали потенциальный вред только после выдачи данных.

В отчете Vals подчеркивается разрыв между заявленными протоколами безопасности и реальным поведением моделей. Разработчикам рекомендовано внедрить дополнительные меры защиты. Anthropic признала, что результаты тестов нарушают внутренние политики компании, и заявила о разработке новых ограничений.

OpenAI также сообщила о работе над усилением защиты от использования своих технологий в военных целях. В ходе эксперимента не учитывались реальные военные доктрины, юридические проверки или участие человека в принятии решений, так как целью было изучение реакции коммерческих ИИ на опасные запросы.