Компания Darktrace Holdings Ltd. выпустила продукт SECURE AI для мониторинга корпоративного использования искусственного интеллекта. Система применяет методы поведенческого анализа для выявления несанкционированных действий. Согласно данным 8 200 внедрений, в августе более 80% клиентов использовали генеративные ИИ-сервисы, при этом средняя организация взаимодействовала с пятью различными ИИ-провайдерами.
Решение интегрируется с Amazon Web Services, Anthropic, Microsoft и OpenAI. Инструмент в реальном времени сканирует сессии в ChatGPT Enterprise, Claude, Microsoft Copilot и Amazon Bedrock, выявляя попытки взлома, утечки данных и инъекции промптов. Каждая сессия получает рейтинг риска для приоритизации работы аналитиков.
Администраторы могут блокировать несанкционированные сервисы или изолировать устройства. Программное обеспечение позволяет загружать внутренние политики компании для проверки на соответствие нормативным требованиям. Система также отслеживает права доступа ИИ-агентов и выявляет ошибки конфигурации в средах разработки, таких как Amazon Bedrock и Microsoft Copilot Studio.
Darktrace входит в партнерскую сеть OpenAI Daybreak Defense Network. Компании совместно разрабатывают функции, объединяющие модели OpenAI с данными о поведении пользователей. Продукт SECURE AI, анонсированный в феврале, доступен для покупки как отдельное решение или в составе платформы Darktrace Behavioral Defense, в том числе через маркетплейсы AWS и Microsoft.
