Decentralized Federated Learning With Period Gradient Tracking Over Time-Varying Networks
Rattachement africain : cn. Niveau de preuve : code pays fourni par la source.
Le résumé fourni par la source
To address the communication challenges associated with Federated Learning (FL), Decentralized Federated Learning (DFL) eliminates the central server and trains the model with decentralized method, enabling each client to only communicate with its neighbors. However, per our analysis, model trained with DFL experiences performance degradation because of data-heterogeneity and time-varying topologies. To address these issues, we propose a Dynamic K-step Gradient Tracking (DKGT) method to enhance the performance of DFL over time varying networks. Specifically, DKGT employs K-step local updates and gradient tracking to reduce the communication cost and the variance from heterogeneous data distribution, and we use dynamic gradient tracking parameter to correct gradient over time varying graph. Theoretically, we derive a universal convergence rate for smooth and non-convex problem at the rate of$\mathcal{O}\left(\frac{\left(f(\textbf{x}_0)-f(\textbf{x}^*)\right)}{\sqrt{T}(L\sqrt{KN})^{-1}-\tau(pKL\sqrt{TKN})^{-1}}+\frac{\sigma^2}{KTN\tau(pK-\tau)}\right)$, that τ and p respectively represent the time window length and the connectivity of time-varying networks. Experimentally, we illustrate the robustness and effectiveness of this heterogeneity correction on extensive non-convex neural network training tasks over different topologies and dynamic network settings.
Ce résumé expose les affirmations des auteurs. BNTIC ne l’interprète pas comme une validation indépendante des résultats.
Le contrôle bibliographique ouvert
DOI retrouvé dans Crossref DOI retrouvé ; titre concordant.
- Titre Crossref
- Decentralized Federated Learning With Period Gradient Tracking Over Time-Varying Networks
- Date Crossref
- 01/07/2026
- Éditeur
- Institute of Electrical and Electronics Engineers (IEEE)
- Type
- journal-article
Ce recoupement confirme des métadonnées liées au DOI. Il ne confirme ni la méthode ni les conclusions de l’étude, et il ne compte pas comme une seconde source scientifique indépendante.
Où se fait cette recherche
-
South China Agricultural University pays non établi dans la noticeUniversité ou école supérieure
-
Guangdong Polytechnic Normal University pays non établi dans la noticeUniversité ou école supérieure
-
South China University of Technology pays non établi dans la noticeUniversité ou école supérieure
-
Sun Yat-sen University pays non établi dans la noticeUniversité ou école supérieure
-
College of Mathematics and Informatics pays non établi dans la noticeUniversité ou école supérieure
-
School of mathematics and systems science pays non établi dans la noticeUniversité ou école supérieure
-
resides in pays non établi dans la noticeInstitution
-
School of Computer Science and Engineering pays non établi dans la noticeUniversité ou école supérieure
-
School of Cyber Science and Technology pays non établi dans la noticeUniversité ou école supérieure
South China Agricultural University, Guangdong Polytechnic Normal University et South China University of Technology, avec 6 autres affiliations.
Une affiliation ne permet pas de déduire la nationalité d’un auteur.