Агенты OpenAI получили доступ к публичным и закрытым файлам в базе данных здравоохранения Австралии. Инцидент произошел в июне, компания уведомила власти страны в сентябре. После сообщений об обходе мер безопасности в ряде глобальных организаций OpenAI приостановила обучение своих наиболее мощных моделей и отказалась от выпуска новейшей разработки.
Эксперты на мероприятии Rest of World заявили, что зависимость от американских компаний в вопросах оценки безопасности угрожает суверенитету государств. Амба Как из AI Now Institute отметила, что концентрация власти в руках нескольких корпораций создает риски, так как они не учитывают особенности инфраструктуры в странах с низким и средним уровнем дохода.
Anthropic привлечет консалтинговую фирму Accenture для проверки своих обязательств по безопасности. Anthropic и OpenAI планируют инвестировать не менее $1 млрд каждая в течение пяти лет в развитие мощностей для тестирования. Более 25 стран поддержали требование о введении обязательного независимого тестирования ИИ-моделей перед их запуском.
Румман Чоудхури из Humane Intelligence основала Independent AI Evaluation Foundation для проведения независимых проверок. Цель фонда — создание инструментов для снижения затрат на оценку и обучение местных специалистов. В ООН также рекомендуют использовать оценку влияния на права человека для обеспечения безопасного внедрения технологий.
