Глава OpenAI Сэм Альтман назвал локальный запуск нейросетей на домашних ПК неэффективным распределением ресурсов. По его словам, значительная часть мировой оперативной памяти простаивает на пользовательских устройствах. Альтман подчеркнул необходимость централизации мощностей в облаке, однако планов по изъятию памяти у пользователей компания не заявляла.
На конец 2025 года вычислительная мощность OpenAI оценивалась в 1,9 ГВт, что эквивалентно 1,7 млн GPU Nvidia H100. Компания арендует мощности у Microsoft, Oracle и CoreWeave. Один из кластеров Microsoft для OpenAI, состоящий из более чем 4600 ускорителей GB300, обладает примерно 2,4 ПБ быстрой памяти.
По оценкам, в пользовательских устройствах установлено от 34 до 74 эксабайт памяти, тогда как инфраструктура OpenAI располагает примерно 0,24–0,37 эксабайта. Разрыв между объемом памяти у потребителей и в дата-центрах компании составляет от 93 до 315 раз.
Передача всей пользовательской памяти OpenAI обеспечила бы компании скачок в развитии инфраструктуры, сопоставимый с 2,8–5,2 годами. Однако потребительская память типов DDR5 и LPDDR значительно уступает по пропускной способности серверной HBM3E, используемой в ускорителях вроде B300.
Для полноценного использования всего объема памяти, установленного у пользователей, потребовалось бы от 177 до 599 ГВт мощности и инвестиции в размере 8,9–30 триллионов долларов. Помимо памяти, обучение моделей требует специализированных чипов, систем охлаждения, высокоскоростных соединений и огромных энергозатрат.
