Медленнее, но дешевле зарубежных аналогов: в России запустили производство серверов с ускорителями для ИИ
Производитель электроники Fplus начал производство серверов с ускорителями нейросетевых алгоритмов НТЦ «Модуль». Как сообщили в пресс-службе, они представляют собой спецвычислители, подключаемые в слот расширения PCIe на материнской плате и используются для реализации нейронных сетей, решения задач цифровой обработки сигналов и изображений.
В Fplus протестировали и подтвердили совместимость нейроускорителей НТЦ «Модуль» со своими серверными решениями – двухсокетными и четырехсокетными серверами «Восход» и «Буран», внесёнными в Реестр Минпромторга.
НТЦ «Модуль» производит карты двух видов: NM Quad 20 ГБ (большой модуль) и NM Card Mini 5 ГБ (малый модуль). СМТ-монтаж карт осуществляется в России. Компоненты работают под управлением ОС Astra Linux.
Для тестирования было выбрано потоковое видео дорожной ситуации в Москве, так как требовался видеоряд с большим количеством автомобилей, чтобы обеспечить нагрузку на спецвычислители при распознавании объектов. Распознавание проводилось параллельно на всех четырех модулях NM Card Mini 5 ГБ на базе модели YOLOv3-tiny. Результаты тестирования подтвердили, что решение позволит компенсировать сложность обработки чисел FP32 и FP64 и сократить время обработки в три раза. В компании пояснили:
Решение пока уступает по быстродействию продуктам зарубежных вендоров, однако карты НТЦ «Модуля» значительно дешевле и более энергоёмкие. Несмотря на то, что с его помощью еще нельзя обучать ИИ-модели, сервера с этими компонентами позволяют запускать нейронные сети, которые обучены на западных аналогах.