Mikä on Horovod?
Horovod on avoimen lähdekoodin kehys syväoppimismallien hajautettuun koulutukseen useilla GPU:illa tai koneilla. Alun perin Uberilla kehitetty työkalu tukee TensorFlow’ta, Kerasta, PyTorchia ja MXNetiä ja synkronoi osallistuvien koneiden laskemat gradientit ring-allreduce-menetelmällä ilman keskitettyä parametripalvelinta. Projektia isännöi LF AI & Data Foundation; uusin vakaa julkaisu, 0.28.1, on vuodelta 2023 (tilanne lokakuussa 2026).