Uncertainty Driven Adaptive Self-Knowledge Distillation for Medical Image Segmentation
Rattachement africain : cn. Niveau de preuve : code pays fourni par la source.
Le résumé fourni par la source
Deep learning has recently significantly improved the precision of medical image segmentation. However, due to the commonly limited dataset scale and reliance on hard labels (one-hot vectors) in medical image segmentation, deep learning models often overfit, which reduces segmentation performance. To mitigate the problem, we propose an uncertainty driven adaptive self-knowledge distillation (UAKD) model for medical image segmentation that regularizes the training process through self-generated soft labels. The innovation of UAKD is to integrate uncertainty estimation into soft label generation and student network training, ensuring accurate supervision and effective regularization. In detail, UAKD introduce teacher network ensembling to reduce semantic bias in soft labels caused by the teacher networks' fitting biases. An adaptive knowledge distillation mechanism is also proposed, which utilizes uncertainty to generate adaptive weights for soft labels to compute the loss function, thereby efficiently transferring reliable knowledge from the teacher network to the student network while suppressing unreliable information. Finally, we introduce a gradient ascent based cyclic ensemble method to reduce teacher network overfitting on the training data, further enhancing the aforementioned teacher ensembling and uncertainty estimation. Experiments on three medical image segmentation tasks show that UAKD outperforms existing regularization methods and demonstrates the effectiveness of uncertainty estimation for assessing soft label reliability.
Ce résumé expose les affirmations des auteurs. BNTIC ne l’interprète pas comme une validation indépendante des résultats.
Le contrôle bibliographique ouvert
DOI retrouvé dans Crossref DOI retrouvé ; titre concordant.
- Titre Crossref
- Uncertainty Driven Adaptive Self-Knowledge Distillation for Medical Image Segmentation
- Date Crossref
- 01/10/2025
- Éditeur
- Institute of Electrical and Electronics Engineers (IEEE)
- Type
- journal-article
Ce recoupement confirme des métadonnées liées au DOI. Il ne confirme ni la méthode ni les conclusions de l’étude, et il ne compte pas comme une seconde source scientifique indépendante.
Où se fait cette recherche
-
Shenzhen Institute of Information Technology pays non établi dans la noticeUniversité ou école supérieure
-
Harbin Institute of Technology pays non établi dans la noticeUniversité ou école supérieure
-
Shenzhen Second People's Hospital pays non établi dans la noticeÉtablissement de santé
-
Peng Cheng Laboratory pays non établi dans la noticeStructure de recherche
-
Sun Yat-sen University Department of Neurosurgery pays non établi dans la noticeUniversité ou école supérieure
-
Sixth Affiliated Hospital of Sun Yat-sen University pays non établi dans la noticeÉtablissement de santé
-
School of Electronics and Information Engineering pays non établi dans la noticeUniversité ou école supérieure
-
s Hospital (First Affiliated Hospital of Shenzhen University) Department of Neuro-oncology pays non établi dans la noticeUniversité ou école supérieure
-
School of Biomedical Engineering and Digital Health pays non établi dans la noticeUniversité ou école supérieure
Shenzhen Institute of Information Technology, Harbin Institute of Technology et Shenzhen Second People's Hospital, avec 6 autres affiliations.
Une affiliation ne permet pas de déduire la nationalité d’un auteur.