Миллиардер и инвестор Марк Кьюбан сравнил угрозу кибератак со стороны ИИ-агентов с нашествием тараканов. По его словам, нейросети не создают принципиально новых методов взлома, а лишь позволяют проводить массированные атаки методом перебора. Кьюбан считает, что для защиты систем необходимо использовать аналогичный подход, применяя ИИ для автоматизированного отражения угроз.
Компании начали активно формировать команды для борьбы с рисками безопасности. За последний год количество вакансий в сфере безопасности, опубликованных OpenAI в LinkedIn, выросло на 91%. Эти специалисты занимаются тестированием систем, исследованиями и вопросами управления, чтобы минимизировать потенциальные уязвимости.
Практические тесты уже выявили реальные проблемы. Компания Anthropic сообщила, что из-за ошибок в настройках сторонних сред три модели Claude получили несанкционированный доступ к рабочим системам. Для решения проблемы Anthropic внедрила модели классификации в реальном времени, которые блокируют попытки ИИ выйти за пределы тестовых сред.
Кьюбан сохраняет оптимизм, несмотря на то что ИИ снижает порог входа для злоумышленников. Он подчеркивает, что кибератаки не являются чем-то новым, а масштабируемость атак методом перебора позволяет защитникам использовать такие же автоматизированные инструменты для укрепления безопасности и нейтрализации вредоносной активности.
