Весной этого года американские военные в последний момент отменили операцию против китайского судна. Причиной стала ложная разведданная, сгенерированная ИИ-чат-ботом: система ошибочно указала, что на борту корабля находятся компоненты для программы создания ядерного оружия.
Инцидент произошел, когда аналитик Командования специальных операций США использовал нейросеть для обработки открытых данных и секретных сигналов разведки. Затем он применил тот же инструмент для оформления выводов в официальный отчет, который был распространен по каналам военного командования.
Случившееся подчеркивает риски ускоренного внедрения ИИ в армейские процессы для принятия решений. Пентагон стремится использовать алгоритмы для сокращения времени реагирования, однако эксперты предупреждают, что недостаточный человеческий контроль над галлюцинациями систем создает угрозу.
Джейк Стеклер, научный сотрудник GovAI и ветеран армии США, отметил необходимость внедрения дополнительных мер безопасности. По его словам, приоритет скорости внедрения над надежностью может привести к потере доверия военных к технологиям, что в итоге замедлит их реальное использование.
