Intel выпускает процессоры Xeon 6 и ускорители искусственного интеллекта Gaudi 3
Xeon 6 обеспечивает вдвое большую производительность, чем его предшественник, утверждает Intel.
Компания Intel официально представила свои следующие серверные процессоры Xeon 6, а также ускорители искусственного интеллекта Gaudi 3, сделав при этом несколько громких заявлений.
Xeon 6 6900P — первый в семействе Xeon с производительными ядрами (P-cores), предназначенными для интенсивных вычислительных нагрузок, и эффективными ядрами (E-cores) для менее интенсивных вычислений при меньшем потреблении энергии. Intel смешивает и сочетает ядра P и E в линейке Xeon 6 в зависимости от целевого рынка. Xeon 6 6700E с ядрами E был представлен в июне.
Intel утверждает, что Xeon 6 6900P вдвое производительнее своего предшественника благодаря увеличенному количеству ядер, удвоенной пропускной способности памяти и возможностям ускорения ИИ, встроенным в каждое ядро.
В дополнение к P-ядрам Intel добавила в линейку Xeon 6900P возможности искусственного интеллекта, чтобы привнести сопроцессоры искусственного интеллекта в процессоры. AMD делает то же самое. Предполагается, что вычисления требуют гораздо меньше энергии и поэтому могут выполняться на клиентском ПК, а не на серверных процессорах, таких как GPU.
Статистика чипов Xeon 6900P впечатляет. По сравнению с предыдущим поколением Xeon, максимальное количество ядер удвоено до 128 за счет использования чиплетной конструкции. Таким образом, вместо одного большого куска кремния процессор разбит на три более простые в изготовлении части.
Xeon 6 — первый процессор, поддерживающий новые модули MRDIMM от Micron, которые улучшают пропускную способность и время задержки. В случае Xeon 6900P скорость работы памяти увеличивается на 57 % и составляет 8 800 МТ/с.
Серия 6900P поддерживает шесть каналов Ultra Path Interconnect 2.0 для передачи данных между процессорами со скоростью до 24 ГТ/с, до 96 линий PCIe 5.0 и CXL 2.0, новые векторные расширения для высокопроизводительных вычислений и новое матричное расширение с 16-разрядной плавающей запятой, что является наилучшим вариантом для выводов ИИ.
Однако за большее количество ядер приходится платить, и это энергопотребление. Тепловая расчетная мощность (TDP) для четырех из пяти процессоров семейства 6900P составляет 500 Вт, а один процессор потребляет 400 Вт. Для сравнения, максимальный TDP пятого поколения Xeon составлял 350 Вт.
Но прирост производительности определенно есть. В бенчмарке с использованием чатбота Llama 2 с 7 миллиардами параметров 96-ядерный Xeon 6972P от Intel более чем в три раза быстрее 96-ядерного EPYC 9654 от AMD и на 128 % быстрее Xeon предыдущего поколения. В бенчмарке обработки языка BERT Xeon 6972P в 4,3 раза быстрее AMD Epyc и в 2,2 раза быстрее Xeon предыдущего поколения.
Однако стоит отметить, что процессор Epyc, использованный в бенчмарке, представлен на рынке уже два года, а у AMD в скором времени должно появиться новое поколение процессоров.