Google Research опубликовал TurboQuant — алгоритм, который сокращает рабочую память языковых моделей в 6 раз и ускоряет их работу в 8 раз без потери качества. Раньше контекст на 32 тысячи токенов съедал 80 ГБ видеопамяти. Теперь те же 60 ГБ превращаются в 11 ГБ. Один ускоритель H100 делает работу трёх. Реакция рынка последовала мгновенно: SK Hynix упал на 6.2%, Samsung на 4.8%, Micron на 5%.

Подвох есть: для реального ускорения придётся переписывать драйверы видеокарт — железо готово, прошивка пока нет. Официальная реализация от Google ожидается во II квартале 2026 года. Сообщество-версия уже на GitHub.