Компания Anthropic сообщила, что группа лиц в северном Йемене использовала нейросеть Claude для разработки ракетных систем. В отчете компании упоминаются три проекта: управляемая ракета, баллистическая ракета с дальностью полета более 2000 километров и серия ракет R2000.
Злоумышленники применяли ИИ для написания кода систем навигации и управления, заменяя работу инженеров. Чтобы скрыть военный характер разработок, участники группы разделяли задачи на несколько сессий общения с моделью, скрывая истинные цели своих запросов от системы.
После неудачного испытания ракеты группа обращалась к Claude для диагностики технических ошибок. Также сообщается о создании автономных наборов инструментов для моделирования, которые позволяли продолжать работу без доступа к сети. Anthropic не нашла доказательств создания готового оружия.
После завершения расследования Anthropic заблокировала аккаунты, связанные с этой деятельностью, и передала данные партнерам. Компания усилила меры безопасности, чтобы предотвратить дальнейшее использование своих инструментов в военных целях неавторизованными группами.
