42 mathématiciens d'élite alertent sur les risques existentiels de l'IA

Quarante-deux mathématiciens de premier plan, dont trois médaillés Fields, ont adressé une lettre ouverte au président de la Royal Society pour alerter sur les risques existentiels liés à l’intelligence artificielle avancée. Leur appel, publié cette semaine, vise à sensibiliser le gouvernement britannique et les médias sur l’urgence d’agir.

Parmi les signataires figurent Martin Hairer, Peter Scholze et Wendelin Werner, des figures majeures des mathématiques contemporaines. Aucun d’eux n’est affilié à une entreprise d’IA, soulignant la neutralité de leur alerte.

Leur lettre met en lumière la progression fulgurante des modèles d’IA ces trois derniers mois. Selon le document, des modèles récents comme ceux d’OpenAI et Anthropic ont résolu des problèmes de recherche ouverts, dont l’un des sept problèmes du millénaire. Un second problème pourrait être résolu prochainement, estiment-ils.

Les signataires précisent que ces modèles atteignent désormais le niveau des meilleurs mathématiciens humains dans de nombreux domaines, avec une probabilité significative de développer des capacités surhumaines à court terme. « Ces avancées soulèvent des questions fondamentales sur la maîtrise et le contrôle de ces systèmes », écrivent-ils.

Leur appel s’inscrit dans un contexte où l’IA progresse à un rythme inédit, dépassant parfois les attentes des experts. Les mathématiciens exhortent la Royal Society et l’Académie des sciences britannique à alerter les autorités et le public sur ces enjeux.

Cette initiative intervient alors que les débats sur la régulation de l’IA s’intensifient à l’échelle internationale. Les signataires ne proposent pas de solutions techniques, mais soulignent la nécessité d’un cadre politique et éthique pour encadrer ces technologies.Les auteurs appellent à une prise de conscience collective face à ces risques.

Ce que cela change pour l’écosystème tech

Cette alerte intervient dans un contexte où l’IA générative et les modèles de raisonnement automatisé deviennent des outils incontournables. Pour les développeurs et chercheurs africains, elle rappelle l’importance de comprendre les limites et les risques de ces technologies, notamment en matière de souveraineté algorithmique et de dépendance aux infrastructures étrangères.

En Afrique, où l’accès à l’électricité et à une connectivité stable reste un défi, cette dynamique interroge : comment garantir que les outils d’IA déployés localement ne deviennent pas des boîtes noires incontrôlables ? La question dépasse le cadre technique pour toucher à la gouvernance des données et à la formation des compétences locales.

Les signataires ne citent aucun exemple africain, mais leur appel résonne comme un rappel : l’innovation technologique doit s’accompagner d’une vigilance accrue sur ses impacts à long terme.

Source : The Decoder (IA)

À lire aussi : Intelligence artificielle et risques systémiques : la question cruciale de la responsabilité