Nvidia H100 и память HBM3 являются причиной половины сбоев при обучении LLama 3

Один сбой происходил каждые три часа для тренировочного кластера, включающего 16 384 графических процессоров H100.