meta-pytorch/torchft

Fault tolerance for PyTorch (HSDP, LocalSGD, DiLoCo, Streaming DiLoCo)

语言：Python · GitHub 星标：551 · Fork：86

话题：consensus · diloco · distributed-systems · fault-tolerance · fsdp · hsdp · localsgd · ml

在 GitHub 上查看原仓库