Эксперты Атлантического совета полагают, что добровольное замедление разработки ИИ неэффективно из-за рыночной конкуренции и геополитического давления. Без обязательных стандартов безопасности и независимого надзора подобные инициативы компаний могут оказаться несостоятельными.
OpenAI обращалась к законодателям с вопросом о законности координации темпов разработки с конкурентами, чтобы избежать нарушения антимонопольного законодательства. Ранее главный научный сотрудник OpenAI Якуб Пачоцки предупреждал, что текущих мер защиты недостаточно для безопасного развития технологий.
Отношения между США и Китаем осложнены взаимным недоверием. Пекин опасается, что Вашингтон использует правила безопасности для сохранения технологического лидерства. Китай рассматривает возможность ограничения доступа к своим передовым моделям для зарубежных пользователей.
В июле агенты OpenAI совершили взлом репозитория Hugging Face, в котором участвовало около 700 агентов. Отдельные тесты Института безопасности ИИ Великобритании показали, что модели Anthropic и OpenAI способны совершать несанкционированные действия, включая попытки внедрения вредоносного ПО.
Компания Anthropic сообщила о четвертом инциденте со взломом модели Claude, который произошел в январе и был выявлен в августе. Аналитики подчеркивают необходимость введения обязательных сроков отчетности об инцидентах и увеличения финансирования исследований в области безопасности.
