Компания AT&T перевела 40% своих внутренних задач по ИИ на модели с открытыми весами и планирует увеличить этот показатель до 60–70% в течение года. Переход позволил сократить расходы на написание кода с помощью ИИ на 56% при снижении качества результатов всего на 2%. Для ряда сложных задач экономия затрат достигает 80–90% по сравнению с закрытыми моделями.
Ежедневный объем обработки ИИ-токенов в AT&T достиг 45 миллиардов, что в 5,6 раза больше показателей годичной давности, когда компания обрабатывала 8 миллиардов токенов. Для распределения задач используется система на базе LiteLLM и собственный ИИ-шлюз. Простые запросы направляются к моделям Nvidia Nemotron, Meta Llama и Google Gemma, а для сложных задач сохраняется доступ к проприетарным решениям.
AT&T также представила собственную модель OTel 2.0 для работы с телекоммуникационными данными. Модель разработана в рамках инициативы GSMA Open Telco AI, обучена на более чем 400 миллиардах токенов с использованием графических процессоров AMD и платформы Microsoft Foundry. Компания пересматривает инвестиции в продукты OpenAI и Anthropic, оценивая возможности открытых моделей.
