Optimización de la Comunicación

Esparsificación

Proceso que elimina los valores de gradiente considerados no significativos (cercanos a cero) antes de la transmisión, reduciendo drásticamente el volumen de comunicación. A menudo se combina con técnicas de acumulación local para preservar la información importante.

← Volver