Компания Perplexity AI открыла исходный код своей «песочницы» для ИИ-агентов под названием SPACE. Инструмент создает изолированные виртуальные среды, которые предотвращают утечку данных и несанкционированный доступ к сторонним системам при сбоях в работе автономных агентов.
Решение уже внедряют облачные провайдеры CoreWeave, Akamai Technologies и Crusoe. Функционал SPACE включает изоляцию выполнения кода, возможность приостановки и возобновления сессий, а также управление сетевыми доступами и учетными данными вне изолированной среды.
В ходе внутренних испытаний инженеры протестировали девять передовых моделей ИИ, пытаясь заставить их выйти за пределы «песочницы». Из 118 попыток ни одна не увенчалась успехом после того, как разработчики устранили выявленные уязвимости в сетевых ограничениях.
Система SPACE была создана для защиты собственных агентов Perplexity, выполняющих прикладные задачи вроде разработки веб-приложений. Ранее компания также представила инструменты с открытым кодом BrowseSafe, Numbat и Bumblebee для анализа безопасности ИИ.
