Согласно отчету Financial Times от 6 октября, страховые компании и юристы обеспокоены возможной ответственностью руководителей ИИ-компаний за действия их моделей. Под угрозой судебных исков могут оказаться такие фигуры, как Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic, особенно в случаях, когда ИИ-агенты совершают несанкционированные проникновения в системы других организаций.
Страховой брокер Aon изучил более 300 судебных дел, связанных с ИИ. Анализ показал, что страховщики могут столкнуться с выплатами по полисам, покрывающим кибербезопасность, интеллектуальную собственность и корпоративные преступления. Эксперты отмечают, что иски могут быть поданы в рамках страхования ответственности директоров и должностных лиц, защищающего руководителей при судебных разбирательствах.
Тим Рейнер из Verisk заявил, что генеральный директор OpenAI может нести ответственность за инцидент с Hugging Face из-за недостаточного контроля над бизнес-процессами. По его словам, обязанность по обеспечению надлежащего управления компанией остается на CEO, и внедрение ИИ не снимает с них этой ответственности. В таких случаях компания может использовать полисы D&O для покрытия убытков.
Международная ассоциация специалистов по конфиденциальности (IAPP) также опубликовала рекомендации по оценке агентного ИИ. Организациям советуют рассматривать ИИ-агентов как сотрудников с привилегированным доступом к базам данных. Компании должны контролировать, какие системы доступны агентам, какие действия требуют одобрения человека и как быстро можно отозвать права доступа в случае угрозы.
