В сфере искусственного интеллекта существует разрыв между возможностями систем и доказательствами их надежности. 29 сентября было подписано соглашение с Белым домом, предусматривающее внешние проверки и надзор со стороны советов директоров компаний. Однако этот документ не создает государственного органа с полномочиями по принудительному исполнению требований или наложению штрафов.
Мэтт Калкинс, генеральный директор Appian Corp., предлагает внедрить государственное регулирование по аналогии с банковским сектором или энергетикой. По его мнению, установление стандартов сейчас обойдется дешевле, чем устранение последствий инцидентов в будущем. Предлагаемая модель включает независимых экспертов для разработки стандартов, оценщиков для проверки доказательств и регулятора для контроля.
На уровне бизнеса существуют операционные риски, такие как неконтролируемое размножение ИИ-агентов и утечки данных. Данные Qualitate показывают, что компании сталкиваются с проблемой агентов, созданных сотрудниками, которые покинули организацию. Такие системы часто остаются без документации и должного надзора, что создает угрозы безопасности.
Существуют опасения, что жесткое регулирование в США может дать преимущество Китаю. Однако эксперты отмечают, что Китай имеет собственные ограничения и стимулы для контроля над ИИ. Лидерство в этой области важно, но не является постоянным, поэтому ускорение работы над безопасностью ИИ считается необходимым условием перед запуском продвинутых функций.
Такие компании, как Oracle Corp. и IBM Corp., уже разрабатывают инженерные решения для снижения рисков, связанных с ИИ. Их работа сосредоточена на безопасности, управлении данными и инфраструктуре. Цель состоит в том, чтобы позволить бизнесу делегировать сложные задачи ИИ-агентам, гарантируя при этом, что системы контроля эффективно работают в реальных условиях эксплуатации.
