Компания Swordfish Security представила обновленную версию 2.0 фреймворка для оценки безопасности систем искусственного интеллекта. Методология доступна для ИБ-команд бесплатно и предназначена для оценки зрелости процессов внедрения ИИ в компаниях.
В новую версию включены два дополнительных домена: безопасность агентских систем и безопасность RAG-пайплайнов. Первый домен направлен на контроль действий ИИ-агентов, работающих без участия человека, а второй — на управление данными, их происхождением и версионностью.
Генеральный директор Swordfish Security Александр Пинаев отметил, что фреймворк помогает компаниям выстроить маршрут развития и определить приоритетные шаги для защиты инфраструктуры. Инструмент применим как для проприетарных моделей, так и для моделей с открытыми весами.
Методология предполагает переход от разовых проверок к постоянному управлению безопасностью. Это включает инвентаризацию моделей и данных, а также мониторинг инцидентов, что необходимо для работы с генеративными системами, обладающими свойством недетерминированности.
