Аналитик Командования специальных операций США использовал чат-бот для анализа разведданных о грузе китайского судна. ИИ ошибочно идентифицировал содержимое как компоненты ядерного оружия, что привело к подготовке военной операции по перехвату и досмотру корабля при поддержке авиации.
Ошибка возникла из-за того, что нейросеть объединила открытые данные с секретными сигналами разведки. Операцию отменили после того, как выяснилось, что чат-бот выдумал информацию о грузе. Этот случай стал примером критического сбоя при использовании генеративного ИИ в военных целях.
Министерство обороны США активно внедряет ИИ-технологии. В январе ведомство представило стратегию ускорения ИИ, направленную на интеграцию данных во всех подразделениях. Сейчас военным доступны платформы GenAI.mil, включающие инструменты Google Gemini и Grok for Government.
В июне представители Пентагона сообщили, что 1,5 миллиона сотрудников используют генеративные ИИ-инструменты для подготовки отчетов. Несмотря на декларацию Госдепартамента 2023 года о необходимости участия человека в управлении ИИ, недавний инцидент подтверждает риски, связанные с автоматизацией анализа данных.
