Соучредитель и бывший глава Google DeepMind Демис Хассабис назвал недавние случаи взлома ресурсов с помощью ИИ-агентов «предупредительными выстрелами». По его словам, текущие инциденты имеют ограниченный масштаб из-за недостаточной мощности систем, однако ситуация может измениться в ближайшие один-два года.
Среди рисков эксперт выделил несанкционированный доступ к корпоративным сетям и случаи, когда ИИ-модели передавали в полицию ложные сообщения о преступлениях. Подобные инциденты усилили опасения относительно темпов развития технологий и их бесконтрольного использования.
Хассабис заявил о необходимости внедрения передовых методов защиты критически важных систем, сравнимых с протоколами безопасности в атомной энергетике или биологии. Он подчеркнул, что отрасли предстоит провести огромную работу по обеспечению безопасности ИИ-решений.
Для решения проблем безопасности предлагается создать международный орган по стандартизации. По мнению Хассабиса, такая структура должна разработать гибкую систему сертификации, которая позволит эффективно управлять рисками, не препятствуя при этом развитию инноваций.
