Прогноз по HBM и чипам для ИИ: до 15 кВт на ускоритель и гигантские объёмы HBM

Южнокорейский университет KAIST (Korea Advanced Institute of Science and Technology), а точнее его лаборатория Terala (Terabyte Interconnection and Package Laboratory), провёл примечательный технический семинар, на котором была представлена долгосрочная проекция развития HBM и вычислительных ускорителей, ориентированных на ИИ. Презентация ( PDF доступен через Google Drive ) не описывает конкретные чипы будущего, а скорее очерчивает технологические цели и задачи, которые, по мнению исследователей, будут решены в ближайшие годы.

За основу взяли существующие планы производителей HBM, включая спецификации HBM4, а также архитектуры NVIDIA. На этом фоне была предложена модель построения будущих ускорителей ИИ.

Пример: потребление HBM4 и GPU Rubin

По оценке исследователей, стек HBM4 с объёмом 36 или 48 ГБ будет потреблять 43 и 75 Вт соответственно. Ожидается, что GPU Rubin, запланированный на 2026 год, получит восемь таких стеков, суммарно потребляющих около 344 Вт — только на ...