Wat is Horovod?
Horovod is een open-sourceframework voor gedistribueerde training van deep-learningmodellen over veel GPU’s of machines. Het is oorspronkelijk ontwikkeld bij Uber, ondersteunt TensorFlow, Keras, PyTorch en MXNet en synchroniseert de door de deelnemende machines berekende gradiënten met ring-allreduce, zonder centrale parameterserver. Het project wordt gehost door de LF AI & Data Foundation; de nieuwste stabiele release, 0.28.1, dateert uit 2023 (stand oktober 2026).