#token-pruning

ИИ

TokenGate: новый метод ускорения префилла в больших языковых моделях

Исследователи из Стэнфорда и Беркли представили TokenGate — компонент для обрезки токенов в LLM, который ускоряет префилл длинного контекста до 11,3 раза.

25 октября 2026 г., 15:12·MarkTechPost
Это всё, что есть