Совокупная мощность ИИ-чипов выросла за год в 4,6 раза — Свежие новости

Совокупная мощность ИИ-чипов выросла за год в 4,6 раза

Исследовательская организация Epoch AI оценила возможности всех ИИ-чипов, проданных к настоящему времени, и сравнила показатели за II квартал 2025 и II квартал 2026 года. За этот период совокупная мощность оборудования для агентного инференса увеличилась в 4,6 раза, тогда как пиковая производительность в 8-битных операциях — в 2,6 раза. С учётом неопределённости в оценках поставок и состава оборудования рост инференса с вероятностью 90% находится в диапазоне от 4,2 до 5,1 раз.

Для сравнения ускорителей Epoch AI использует собственный индекс IPI (Inference Performance Index), который оценивает, сколько запросов чип способен одновременно обслуживать при выполнении агентных задач. В расчётной нагрузке модель работает с контекстом объёмом 262 тысячи токенов, уже находящимся в кэше, и обрабатывает ещё около 1000 новых токенов на каждый запрос. Поэтому результат зависит не только от вычислительной мощности, но и от объёма и пропускной способности памяти, скорости обмена данными между чипами и поддержки вычислений с пониженной точностью. По модели Epoch AI, один GB300 обеспечивает в 8 раз большую мощность инференса, чем H200, хотя по пиковой производительности в 8-битных операциях преимущество гораздо скромнее.

Основной вклад в рост внесла Nvidia: к середине 2026 года на семейства Blackwell и Blackwell Ultra приходилось около 73% всей расчётной мощности для агентного инференса, но только 50% пиковой вычислительной мощности. Данные Epoch AI показывают, что примерно 47% общего показателя обеспечивали системы B300 и GB300, ещё 26% — B200 и GB200. Для сравнения, на ускорители Google TPU v7 приходилось около 14%. Разрыв между долей Blackwell в инференсе и долей в пиковых вычислениях показывает, насколько сильно при такой нагрузке меняется значение архитектуры и организации системы.

При этом IPI отражает расчётный потенциал оборудования, а не гарантированную производительность в реальных приложениях: индекс не учитывает зрелость программного обеспечения и эффективность конкретных моделей. При проверке на модели Kimi K3 фактическая пропускная способность GB300 составила примерно половину расчётной. Epoch AI также ожидает замедления дальнейшего роста: чипы, проданные во II квартале 2026 года, добавили в 3,3 раза больше агентной мощности, чем поставленные годом ранее, — меньше, чем вырос весь накопленный парк. Кроме того, переход от Hopper к Blackwell дал особенно большой прирост: по модели организации, переход от H200 к GB300 увеличивает мощность инференса на один GPU в 8 раз, а следующий шаг — от GB300 к платформе Vera Rubin VR200 — даст прирост примерно в 2,2 раза.

Предыдущая новость 3 настройки, которые сделают звук даже недорогих наушников заметно лучше
Следующая новость От хаоса девяностых к суверенной системе: глава Минпросвещения рассказал о том, как меняется школа

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *