Faut-il ralentir l'IA ?

Le 12 septembre, Dario Amodei, patron d’Anthropic, l’entreprise derrière 𝗖𝗹𝗮𝘂𝗱𝗲, publie un texte avec un message simple : 𝗶𝗹 𝗳𝗮𝘂𝘁 𝗿𝗮𝗹𝗲𝗻𝘁𝗶𝗿 𝗹𝗲 𝗱𝗲́𝘃𝗲𝗹𝗼𝗽𝗽𝗲𝗺𝗲𝗻𝘁 𝗱𝗲 𝗹’𝗜𝗔.

Pas l’arrêter. 𝗟𝗮 𝗿𝗮𝗹𝗲𝗻𝘁𝗶𝗿.

Le même jour, Sam Altman, patron d’OpenAI et de ChatGPT, réagit publiquement : « Je suis d’accord avec Dario. »

Elon Musk, patron de xAI et de Grok, va dans le même sens : « Dario a raison. »

Trois figures majeures de l’intelligence artificielle semblent donc partager une même inquiétude : 𝗻𝗼𝘂𝘀 𝗮𝘃𝗮𝗻𝗰̧𝗼𝗻𝘀 𝗽𝗲𝘂𝘁-𝗲̂𝘁𝗿𝗲 𝘁𝗿𝗼𝗽 𝘃𝗶𝘁𝗲.

𝗠𝗮𝗶𝘀 𝗽𝗼𝘂𝗿𝗾𝘂𝗼𝗶 𝘃𝗲𝘂𝗹𝗲𝗻𝘁-𝗶𝗹𝘀 𝗿𝗮𝗹𝗲𝗻𝘁𝗶𝗿 ?

Parce qu’une nouvelle génération d’IA est en train d’apparaître : des systèmes capables de 𝗿𝗮𝗶𝘀𝗼𝗻𝗻𝗲𝗿, 𝗽𝗿𝗲𝗻𝗱𝗿𝗲 𝗱𝗲𝘀 𝗱𝗲́𝗰𝗶𝘀𝗶𝗼𝗻𝘀 𝗲𝘁 𝗮𝗴𝗶𝗿 𝗱𝗲 𝗺𝗮𝗻𝗶𝗲̀𝗿𝗲 𝗯𝗲𝗮𝘂𝗰𝗼𝘂𝗽 𝗽𝗹𝘂𝘀 𝗮𝘂𝘁𝗼𝗻𝗼𝗺𝗲, sans attendre qu’un humain intervienne à chaque étape.

C’est là que la question devient sérieuse.

Si demain des IA disposent d’un accès important à Internet, à des serveurs, à des logiciels ou à des infrastructures critiques, 𝗾𝘂𝗶 𝗽𝗼𝘂𝗿𝗿𝗮 𝗿𝗲́𝗲𝗹𝗹𝗲𝗺𝗲𝗻𝘁 𝗹𝗲𝘀 𝗮𝗿𝗿𝗲̂𝘁𝗲𝗿 𝘀𝗶 𝗲𝗹𝗹𝗲𝘀 𝗰𝗼𝗺𝗺𝗲𝗻𝗰𝗲𝗻𝘁 𝗮̀ 𝗮𝗴𝗶𝗿 𝗱’𝘂𝗻𝗲 𝗺𝗮𝗻𝗶𝗲̀𝗿𝗲 𝗾𝘂𝗲 𝗹𝗲𝘂𝗿𝘀 𝗰𝗿𝗲́𝗮𝘁𝗲𝘂𝗿𝘀 𝗻’𝗮𝘃𝗮𝗶𝗲𝗻𝘁 𝗽𝗮𝘀 𝗽𝗿𝗲́𝘃𝘂𝗲 ?

C’est précisément ce risque que certains dirigeants de l’industrie veulent mieux encadrer.

𝗤𝘂𝗲 𝗽𝗿𝗼𝗽𝗼𝘀𝗲𝗻𝘁-𝗶𝗹𝘀 ?

• 𝗗𝗲𝘀 𝗰𝗼𝗻𝘁𝗿𝗼̂𝗹𝗲𝘀 𝗶𝗻𝗱𝗲́𝗽𝗲𝗻𝗱𝗮𝗻𝘁𝘀 au sein des entreprises développant les IA les plus puissantes.
• 𝗗𝗲𝘀 𝗿𝗲̀𝗴𝗹𝗲𝘀 𝗱𝗲 𝘀𝗲́𝗰𝘂𝗿𝗶𝘁𝗲́ 𝗰𝗼𝗺𝗺𝘂𝗻𝗲𝘀 pour éviter qu’une entreprise puisse prendre des raccourcis pendant que les autres investissent dans la sécurité.
• 𝗨𝗻𝗲 𝗰𝗼𝗼𝗽𝗲́𝗿𝗮𝘁𝗶𝗼𝗻 𝗶𝗻𝘁𝗲𝗿𝗻𝗮𝘁𝗶𝗼𝗻𝗮𝗹𝗲, notamment entre les États-Unis et la Chine, afin d’éviter une course où chacun accélère simplement par peur de perdre.

Mais voilà le véritable problème :

𝗦𝗶 𝘂𝗻𝗲 𝘀𝗲𝘂𝗹𝗲 𝗲𝗻𝘁𝗿𝗲𝗽𝗿𝗶𝘀𝗲 𝗿𝗮𝗹𝗲𝗻𝘁𝗶𝘁 𝗮𝗹𝗼𝗿𝘀 𝗾𝘂𝗲 𝘀𝗲𝘀 𝗰𝗼𝗻𝗰𝘂𝗿𝗿𝗲𝗻𝘁𝗲𝘀 𝗰𝗼𝗻𝘁𝗶𝗻𝘂𝗲𝗻𝘁 𝗱’𝗮𝗰𝗰𝗲́𝗹𝗲́𝗿𝗲𝗿, 𝗲𝗹𝗹𝗲 𝗿𝗶𝘀𝗾𝘂𝗲 𝗱𝗲 𝗽𝗲𝗿𝗱𝗿𝗲 𝗹𝗮 𝗰𝗼𝘂𝗿𝘀𝗲.

C’est pourquoi certains estiment qu’une véritable sécurité de l’IA nécessite 𝗱𝗲𝘀 𝗿𝗲̀𝗴𝗹𝗲𝘀 𝗰𝗼𝗺𝗺𝘂𝗻𝗲𝘀 𝗲𝘁 𝗰𝗼𝗻𝘁𝗿𝗮𝗶𝗴𝗻𝗮𝗻𝘁𝗲𝘀, et pas seulement la bonne volonté des entreprises.

𝗘𝘁 𝗽𝗼𝘂𝗿𝗾𝘂𝗼𝗶 𝗰𝗲𝗹𝗮 𝗻𝗼𝘂𝘀 𝗰𝗼𝗻𝗰𝗲𝗿𝗻𝗲 ?

Parce que l’IA ne restera pas confinée dans les laboratoires américains.

Elle arrive déjà dans 𝗹’𝗲́𝗱𝘂𝗰𝗮𝘁𝗶𝗼𝗻, 𝗹’𝗶𝗻𝗳𝗼𝗿𝗺𝗮𝘁𝗶𝗾𝘂𝗲, 𝗹𝗮 𝗰𝘆𝗯𝗲𝗿𝘀𝗲́𝗰𝘂𝗿𝗶𝘁𝗲́, 𝗹𝗮 𝗽𝗿𝗼𝗴𝗿𝗮𝗺𝗺𝗮𝘁𝗶𝗼𝗻, 𝗹𝗲𝘀 𝗲𝗻𝘁𝗿𝗲𝗽𝗿𝗶𝘀𝗲𝘀 𝗲𝘁 𝗹𝗲 𝗺𝗼𝗻𝗱𝗲 𝗱𝘂 𝘁𝗿𝗮𝘃𝗮𝗶𝗹.

Et lorsqu’une nouvelle technologie apparaît aux États-Unis, elle peut rapidement devenir accessible 𝗮𝘂 𝗕𝘂𝗿𝗸𝗶𝗻𝗮 𝗙𝗮𝘀𝗼 𝗲𝘁 𝗽𝗮𝗿𝘁𝗼𝘂𝘁 𝗮𝗶𝗹𝗹𝗲𝘂𝗿𝘀 𝗱𝗮𝗻𝘀 𝗹𝗲 𝗺𝗼𝗻𝗱𝗲.

Le véritable enjeu n’est donc pas seulement :

« 𝗤𝘂𝗶 𝘃𝗮 𝗴𝗮𝗴𝗻𝗲𝗿 𝗹𝗮 𝗰𝗼𝘂𝗿𝘀𝗲 𝗮̀ 𝗹’𝗜𝗔 ? »

La vraie question est :

« 𝗝𝘂𝘀𝗾𝘂’𝗼𝘂̀ 𝗮𝗹𝗹𝗼𝗻𝘀-𝗻𝗼𝘂𝘀 𝗹𝗮𝗶𝘀𝘀𝗲𝗿 𝗹’𝗜𝗔 𝗮𝗹𝗹𝗲𝗿… 𝗮𝘃𝗮𝗻𝘁 𝗱𝗲 𝗻𝗼𝘂𝘀 𝗱𝗲𝗺𝗮𝗻𝗱𝗲𝗿 𝘀𝗶 𝗻𝗼𝘂𝘀 𝘀𝗼𝗺𝗺𝗲𝘀 𝗲𝗻𝗰𝗼𝗿𝗲 𝗰𝗮𝗽𝗮𝗯𝗹𝗲𝘀 𝗱𝗲 𝗹𝗮 𝗰𝗼𝗻𝘁𝗿𝗼̂𝗹𝗲𝗿 ? »

𝗟’𝗜𝗔 𝗲𝘀𝘁 𝗽𝗿𝗼𝗯𝗮𝗯𝗹𝗲𝗺𝗲𝗻𝘁 𝗹’𝘂𝗻𝗲 𝗱𝗲𝘀 𝘁𝗲𝗰𝗵𝗻𝗼𝗹𝗼𝗴𝗶𝗲𝘀 𝗹𝗲𝘀 𝗽𝗹𝘂𝘀 𝗽𝘂𝗶𝘀𝘀𝗮𝗻𝘁𝗲𝘀 𝗱𝗲 𝗻𝗼𝘁𝗿𝗲 𝗲́𝗽𝗼𝗾𝘂𝗲. 𝗠𝗮𝗶𝘀 𝗽𝗹𝘂𝘀 𝗲𝗹𝗹𝗲 𝗱𝗲𝘃𝗶𝗲𝗻𝘁 𝗽𝘂𝗶𝘀𝘀𝗮𝗻𝘁𝗲, 𝗽𝗹𝘂𝘀 𝗹𝗮 𝗾𝘂𝗲𝘀𝘁𝗶𝗼𝗻 𝗱𝗲 𝘀𝗮 𝘀𝗲́𝗰𝘂𝗿𝗶𝘁𝗲́ 𝗱𝗲𝘃𝗶𝗲𝗻𝘁 𝗶𝗺𝗽𝗼𝗿𝘁𝗮𝗻𝘁𝗲.

𝗘𝘁 𝘃𝗼𝘂𝘀, 𝗽𝗲𝗻𝘀𝗲𝘇-𝘃𝗼𝘂𝘀 𝗾𝘂’𝗶𝗹 𝗳𝗮𝘂𝘁 𝗿𝗮𝗹𝗲𝗻𝘁𝗶𝗿 𝗹’𝗜𝗔 𝗼𝘂 𝗰𝗼𝗻𝘁𝗶𝗻𝘂𝗲𝗿 𝗮̀ 𝗮𝗰𝗰𝗲́𝗹𝗲́𝗿𝗲𝗿 ?