Accès ouvert déclaré 2024 article

Tackling algorithmic bias and promoting transparency in health datasets: the STANDING Together consensus recommendations

Joseph Edward Alderman, Joanne Palmer, Elinor Laws, Melissa D. McCradden, Johan Ordish, Marzyeh Ghassemi, Stephen Pfohl, Negar Rostamzadeh, Heather J. Cole-Lewis, Ben Glocker, Melanie Jane Calvert, Tom Pollard, Jacqui Gath, Ade Adebajo, Jude Beng, Cheuk Wing Leung, Stephanie Kuku, Lesley-Anne Farmer, Rubeta Matin, Bilal Akhter Mateen, Francis McKay, Katherine Heller, Alan Karthikesalingam, Darren E. Treanor, Maxine E. Mackintosh, Lauren Oakden‐Rayner, Russell J. Pearson, Arjun Kumar Manrai, Puja R Myles, Judit Kumuthini, Zoher Kapacee, Neil James Sebire, Lama H. Nazer, Jarrel C. Y. Seah, Ashley Akbari, Lewis E. Berman, Judy Wawira Gichoya, Lorenzo Righetto, William Wasswa, Maria Charalambides, Anmol Arora, Sameer Pujari, Charlotte Summers, Elizabeth Sapey, S P Wilkinson, Vishal Thakker, Alastair Keith Denniston, Xiaoxuan Liu

166Citations signalées, ce qui n’est pas une note de qualité

48Institutions déclarées

11Pays d’affiliation déclarés

Rattachement africain : gb, ca, ch, us, it, au, Nigéria, jo, Afrique du Sud, Ouganda, pt. Niveau de preuve : code pays fourni par la source.

Le résumé fourni par la source

Without careful dissection of the ways in which biases can be encoded into artificial intelligence (AI) health technologies, there is a risk of perpetuating existing health inequalities at scale. One major source of bias is the data that underpins such technologies. The STANDING Together recommendations aim to encourage transparency regarding limitations of health datasets and proactive evaluation of their effect across population groups. Draft recommendation items were informed by a systematic review and stakeholder survey. The recommendations were developed using a Delphi approach, supplemented by a public consultation and international interview study. Overall, more than 350 representatives from 58 countries provided input into this initiative. 194 Delphi participants from 25 countries voted and provided comments on 32 candidate items across three electronic survey rounds and one in-person consensus meeting. The 29 STANDING Together consensus recommendations are presented here in two parts. Recommendations for Documentation of Health Datasets provide guidance for dataset curators to enable transparency around data composition and limitations. Recommendations for Use of Health Datasets aim to enable identification and mitigation of algorithmic biases that might exacerbate health inequalities. These recommendations are intended to prompt proactive inquiry rather than acting as a checklist. We hope to raise awareness that no dataset is free of limitations, so transparent communication of data limitations should be perceived as valuable, and absence of this information as a limitation. We hope that adoption of the STANDING Together recommendations by stakeholders across the AI health technology lifecycle will enable everyone in society to benefit from technologies which are safe and effective.

Ce résumé expose les affirmations des auteurs. BNTIC ne l’interprète pas comme une validation indépendante des résultats.

Le contrôle bibliographique ouvert

DOI retrouvé dans Crossref DOI retrouvé ; titre concordant.

Titre Crossref: Tackling algorithmic bias and promoting transparency in health datasets: the STANDING Together consensus recommendations
Date Crossref: 01/01/2025
Éditeur: Elsevier BV
Type: journal-article

Ce recoupement confirme des métadonnées liées au DOI. Il ne confirme ni la méthode ni les conclusions de l’étude, et il ne compte pas comme une seconde source scientifique indépendante.

Où se fait cette recherche

NIHR Birmingham Biomedical Research Centre pays non établi dans la notice
Structure de recherche
SickKids Foundation pays non établi dans la notice
Organisation à but non lucratif
Sickkids Research Institute pays non établi dans la notice
Structure de recherche
Roche (Switzerland) pays non établi dans la notice
Entreprise
Massachusetts Institute of Technology Department of Electrical Engineering and Computer Science pays non établi dans la notice
Université ou école supérieure
Google (United States) pays non établi dans la notice
Entreprise
Google (Canada) pays non établi dans la notice
Entreprise
Imperial College London Department of Computing pays non établi dans la notice
Université ou école supérieure
University Hospitals Birmingham NHS Foundation Trust pays non établi dans la notice
Établissement de santé
The Patients Association pays non établi dans la notice
Organisation à but non lucratif
NIHR Sheffield Biomedical Research Centre pays non établi dans la notice
Structure de recherche
University of Sheffield pays non établi dans la notice
Université ou école supérieure

NIHR Birmingham Biomedical Research Centre, SickKids Foundation et Sickkids Research Institute, avec 9 autres affiliations. Pays d’affiliation : Nigéria, Afrique du Sud, Ouganda.

Une affiliation ne permet pas de déduire la nationalité d’un auteur.

Les sujets associés

Artificial Intelligence in Healthcare and EducationEthics in Clinical ResearchArtificial Intelligence in Healthcare

Lire en accès ouvert Consulter la publication primaire Ouvrir le DOI