Модели с открытыми весами позволяют компаниям обучать системы на собственных данных, обеспечивая контроль и потенциальную экономию. Однако такой подход требует затрат на инфраструктуру, наем специалистов и подготовку данных. Некоторые организации отмечают, что эти расходы делают самостоятельный хостинг менее эффективным, чем использование готовых закрытых платформ.
Вопросы конфиденциальности данных остаются актуальными при работе с китайскими моделями. При этом компании продолжают использовать решения крупных ИИ-лабораторий для задач, требующих максимальной производительности. Переход от чат-ботов к агентам и внедрение оплаты за токены привели к росту расходов на использование внешних ИИ-сервисов.
Компания AT&T сократила затраты на написание кода и другие ИИ-задачи на 56%, внедрив систему маршрутизации запросов к более дешевым моделям. Снижение качества работы при этом составило лишь 2%. Сейчас 40% запросов сотрудников AT&T обрабатываются с помощью моделей с открытым исходным кодом, в ближайшие годы компания планирует увеличить этот показатель до 60–70%.
Китайские ИИ-лаборатории предлагают более низкие цены, чем американские компании, благодаря эффективности моделей и меньшим затратам на электроэнергию. Финансовые директора продолжают оценивать, оправдывают ли гибкость и автономность открытых моделей те операционные обязательства, которые возникают при управлении собственной инфраструктурой.
