Генеральный директор OpenAI Сэм Альтман представил сотрудникам три концепции обеспечения безопасности в сфере ИИ. Обсуждение состоялось на фоне подготовки администрацией США первых правил регулирования разработчиков суперинтеллекта.
Первый вариант предполагает создание структуры по аналогии с МАГАТЭ. Она должна контролировать использование вычислительных мощностей и энергии, проводить аудит систем и обеспечивать соблюдение стандартов безопасности при участии других стран, включая Китай.
Второй подход, названный планом Демиса, подразумевает объединение ведущих лабораторий в единую организацию или работу под общим управлением. Такая структура могла бы предоставлять доступ к моделям странам-партнерам, работая по модели CERN.
Третий сценарий, план Элиезера, описывает ситуацию, когда разработчик получает настолько значительное экономическое влияние, что может ограничивать доступ к вычислениям для конкурентов или полностью отключать их мощности. Альтман привел этот пример как теоретический.
OpenAI планирует определиться со стратегией развития в течение ближайшего года, учитывая подготовку компании и конкурента Anthropic к возможному выходу на биржу. Сейчас компании работают над созданием Standards Authority for Frontier AI, однако пока не достигли согласия по ключевым вопросам.
Марк Цукерберг из Meta и Дженсен Хуанг из Nvidia критикуют подобные инициативы. По их мнению, введение строгих правил может создать барьеры для конкуренции и защитить интересы уже существующих крупных игроков рынка.
