Компании Anthropic, Google и OpenAI с июля проводят регулярные встречи для обсуждения создания отраслевой организации по тестированию и аудиту ИИ. Разработчики стремятся выработать общие стандарты безопасности, включая правила проведения проверок и критерии оценки моделей.
В качестве примера для подражания участники рынка рассматривают опыт платежной индустрии. Организации FIDO Alliance и EMVCo, ранее создавшие стандарты для бесконтактных платежей и аутентификации, сейчас адаптируют свои наработки для ИИ-агентов, обеспечивая безопасность делегирования действий.
В апреле FIDO сформировала рабочую группу по аутентификации агентов, а в сентябре EMVCo представила проект Agentic Payments Framework. Эти инициативы направлены на создание технических спецификаций для взаимодействия систем и подтверждения полномочий программных агентов.
Между разработчиками ИИ сохраняются разногласия относительно формата внешнего контроля. OpenAI выступает за ежегодный независимый аудит и предупреждает о рисках фрагментации регулирования, в то время как Anthropic поддерживает внедрение законодательных требований к безопасности.
