Весной этого года армия США едва не начала военную операцию против китайского судна на Ближнем Востоке из-за ошибки ИИ. Отчет, подготовленный с помощью чат-бота, ошибочно классифицировал груз корабля как материалы для ядерной программы, что впоследствии было признано полностью ложным.
Ситуация едва не привела к прямому столкновению: военные подготовились к досмотру судна, а авиация была приведена в боевую готовность. Операцию отменили в последний момент, когда офицеры провели дополнительную проверку данных, полученных аналитиком Командования специальных операций США на Гавайях.
Ошибка произошла из-за того, что ИИ-система, объединившая открытые и секретные данные, выдала ложный результат. Отчет был оформлен по стандартным военным протоколам, что придало ему высокий уровень достоверности и ускорило распространение внутри ведомства, несмотря на фактическую неточность.
Инцидент подчеркнул риски использования коммерческих ИИ-моделей в военных целях, где «галлюцинации» алгоритмов могут спровоцировать международный конфликт. Эксперты отмечают, что подобные системы часто не справляются с неполными или искаженными данными, что критично для принятия решений в полевых условиях.
Несмотря на этот случай, Пентагон продолжает реализацию стратегии ускоренного внедрения ИИ, представленной министром обороны Питом Хегсетом в январе. План предусматривает увеличение финансирования и сокращение бюрократии для интеграции нейросетей в логистику, снабжение и процессы принятия боевых решений.
