В ROCm 6.3 добавлено несколько новых функций, включая компилятор Fortran и SGLang

Компания AMD анонсировала версию ROCm 6.3, которая добавляет множество новых обновлений в экосистему ROCm. Последняя итерация стека драйверов с открытым исходным кодом содержит несколько дополнений, включая SGLang, FlashAttention-2 и компилятор Fortran.

SGLang - это новая среда выполнения в ROCm 6.3, которая якобы улучшает задержку, пропускную способность и использование ресурсов за счет оптимизации «передовых» генеративных моделей ИИ на доморощенных GPU...

Читать далее