Question de la semaine : Faut-il craindre une IA plus intelligente que nous ?

La Presse — Depuis quelques semaines, les alertes sur les risques de l’IA, ou plutôt d’une IA super intelligente, se multiplient. Lanceurs d’alerte, experts, chercheurs et philosophes appellent les entreprises d’intelligence artificielle à freiner cette course à laquelle elles se sont livrées sans retenue et à prendre, même momentanément, leurs distances.

Le débat sur les risques de l’IA, et particulièrement sur son éventuelle superpuissance, n’est pas nouveau, il remonte à la fin des années 1990, comme en témoignent les scénarios, à l’époque jugés improbables, des films de science-fiction. Mais aujourd’hui, c’est bien du probable risque existentiel qu’on parle. L’alerte récemment lancée par le chercheur britannique Jacob Coxon, un ancien d’OpenAI qui a également décidé de quitter Anthropic, la société rivale d’OpenAI, visait à mettre en garde contre une course vers une « superintelligence capable de s’améliorer elle-même », donc capable de se passer de l’être humain. Pour les chercheurs, le danger ne réside pas dans l’IA elle-même, mais bien dans la perte de contrôle de l’homme sur la machine, une perspective qui fait certainement peur.

Tout récemment, une expérience menée durant deux semaines par une startup américaine a montré qu’un tel scénario pourrait bien se produire. L’étude a révélé qu’en communiquant entre eux, ces agents ont spontanément développé des mots et des conventions propres. Même lorsque certaines expressions demeuraient reconnaissables, elles avaient acquis de nouveaux sens, partagés entre les agents.

En somme, l’étude a montré que des agents d’IA autonomes développent des comportements imprévus et un langage propre lorsqu’ils interagissent entre eux sans supervision humaine. « Ces agents n’ont pas reçu pour instruction d’inventer une langue.

Ils ont eux-mêmes développé un nouveau vocabulaire, des sens partagés et des conventions de communication, et d’autres agents les ont adoptés (…) Cela crée un défi fondamental pour la supervision de l’IA : la capacité d’observer n’est pas la même chose que la capacité de comprendre », a déclaré Satya Nitta, cofondateur d’Emergence, la startup à l’origine de l’étude. « Nous devons comprendre ce que font les systèmes autonomes au fil du temps, ce qu’ils retiennent, à quoi ils peuvent accéder, comment ils interagissent et comment leur comportement change sous pression », précise-t-il.

Ces résultats ne devraient guère surprendre les fins connaisseuses du domaine. En décembre 2024, lors de la cérémonie de remise de son prix Nobel de physique, l’informaticien Geoffrey Hinton, surnommé le « parrain de l’intelligence artificielle », a prononcé un discours alertant sur les dangers à court et moyen terme que représente une IA de plus en plus performante pour l’humanité.

Il a estimé que cette récompense consacrait les progrès spectaculaires réalisés grâce à une nouvelle forme d’IA fondée sur les réseaux neuronaux pour résoudre des problèmes complexes. « Cette nouvelle forme d’IA excelle à modéliser l’intuition humaine plutôt que le raisonnement humain, ce qui permet de créer des assistants très intelligents qui doperont la productivité dans tous les secteurs.

Si les bénéfices de cette productivité accrue sont partagés équitablement, ce sera une formidable avancée pour toute l’humanité. Malheureusement, ces progrès rapides en IA s’accompagnent de nombreux risques à court terme », a-t-il déclaré. La création de chambres d’écho clivantes, l’utilisation de l’IA à des fins de surveillance de masse ou d’attaques de phishing, la possible création de virus dévastateurs et d’armes létales autonomes capables de choisir elles-mêmes leurs cibles sont les risques immédiats qui ont été évoqués par le lauréat et qui a appelé à une action commune globale et urgente.

« À long terme, une menace existentielle surgira quand on créera des êtres numériques plus intelligents que nous. On ignore si nous garderons le contrôle et, si des entreprises les créent pour le profit, notre sécurité ne sera pas la priorité. Il faut d’urgence chercher comment empêcher ces nouveaux êtres de vouloir prendre le contrôle.

Ce n’est plus de la science-fiction », a-t-il averti. Mais si ces mises en garde se multiplient, les risques qui nourrissent ces inquiétudes ne font pas l’unanimité au sein de la communauté scientifique. D’autres chercheurs relativisent ces déclarations, jugeant les risques objectivement très limités et estimant que certains scientifiques surestiment des aspects de cette technologie.

Clairement, il est aujourd’hui question de soupeser une technologie qui a, sans doute, permis des progrès majeurs dans de nombreux domaines, scientifique, économique et jusque dans la vie quotidienne. L’apport de l’IA dans le domaine médical, à titre d’exemple, a ouvert des possibilités inédites de révolutionner le secteur de la santé, le rendant plus efficace, plus accessible et plus économiquement durable. Et en permettant une meilleure précision dans les diagnostics, et une accélération de la recherche thérapeutique, l’IA contribue aujourd’hui à sauver des vies.