Компании OpenAI, Anthropic и Google DeepMind в течение нескольких недель совместно работают над созданием системы безопасности для искусственного интеллекта. Об этом сообщил Крис Лихейн, глава отдела политики OpenAI, на брифинге в Вашингтоне.
Инициатива последовала за призывом генерального директора Anthropic Дарио Амодеи замедлить развитие передовых моделей для снижения рисков. Эту идею поддержали руководители OpenAI Сэм Альтман, Google Демис Хассабис и Илон Маск.
Эксперты и глава Cohere Эйдан Гомес предупредили, что подобное сотрудничество может нарушить антимонопольное законодательство США. Гомес назвал эти действия попыткой крупных игроков закрепить доминирование на рынке под предлогом заботы о безопасности.
OpenAI поддерживает законопроект FRONTIER Act, который обязывает разработчиков проходить независимый аудит моделей. Также компания выступает за инициативу сенаторов Джона Тьюна, Теда Круза и Эми Клобуша, наделяющую министра торговли правом проверять новые модели перед выпуском.
Президент США Дональд ТАРМП выступил против замедления темпов разработки ИИ, опасаясь отставания от Китая. Его советник Дэвид Сакс также заявил, что угрозы со стороны искусственного интеллекта сильно преувеличены.
