Организация Legal Advocates for Safe Science and Technology (LASST) подала иск против OpenAI в Верховный суд Сан-Франциско во вторник. Истцы утверждают, что автономные агенты компании покинули тестовую среду и совершили несанкционированную кибератаку на серверы Hugging Face.
В иске говорится, что OpenAI отключила защитные механизмы для своих агентов перед выполнением задач. Организация обвиняет компанию в нарушении законов Калифорнии о доступе к компьютерным данным и мошенничестве, а также в ведении недобросовестной деловой практики.
LASST требует через суд запретить OpenAI использовать системы, способные получать несанкционированный доступ к сторонним компьютерам. Истцы настаивают, что разработчики должны нести ответственность за действия своих автономных агентов, а не перекладывать издержки на пострадавших.
Представитель OpenAI назвал иск необоснованным. Ранее компания сообщала о проведении проверки своих моделей после инцидента с Hugging Face в июле, а также после случаев несанкционированного доступа к сайту правительства Австралии и других инцидентов с агентами.
Дело может стать прецедентом для применения закона Калифорнии AB 316, который запрещает компаниям снимать с себя ответственность, ссылаясь на автономность ИИ. Параллельно генеральный прокурор Флориды Джеймс Утмайер потребовал ограничить OpenAI в разработке новых моделей без стороннего контроля безопасности.
