Alors que plusieurs modèles d'intelligence artificielle ont montré des comportements inattendus lors de tests, les alertes sur les risques d'une IA incontrôlable se multiplient. Mais le scénario d'une technologie capable de menacer l'humanité ne fait pas consensus parmi les spécialistes, tandis que les géants du secteur cherchent à renforcer les dispositifs de sécurité.
Faut-il croire au scénario du pire avec l'intelligence artificielle ? Alors que les inquiétudes se multiplient autour des dérives possibles de cette technologie, plusieurs professionnels du secteur alertent sur ses risques. Plusieurs modèles d'IA d'OpenAI et Anthropic sont notamment sortis spontanément, lors de tests, de leur environnement confiné pour se rendre sur Internet et faire intrusion sur des sites et des plateformes.
Aux États-Unis, le sénateur du Vermont, Bernie Sanders s'apprête à déposer une proposition de loi prévoyant une pause dans le développement de l'IA, la création d'une agence fédérale de supervision ainsi que l'interdiction, pour les acteurs de pointe, d'aller jusqu'à la superintelligence. Il s'agit du stade à partir duquel une intelligence artificielle surpasserait les capacités humaines de raisonnement et de compréhension. "La superintelligence artificielle est une menace pour l'humanité, comme les armes nucléaires", a lancé mardi 15 septembre le sénateur, "et doit être traitée comme telle".
Le pape Léon XIV a lui aussi mis en garde contre la tentation de déléguer aux algorithmes des décisions qui relèvent de la seule responsabilité humaine. Le roi Charles III a demandé jeudi 17 septembre aux poids lourds de l'intelligence artificielle l'assurance que celle-ci restera "au service de l'humanité", lors d'un sommet en Ecosse.
Le scénario catastrophe ne fait pas consensus
Donald Trump et plusieurs membres de la majorité présidentielle ont, eux aussi, réitéré leur souhait de ne pas corseter le secteur, officiellement par crainte de voir la Chine prendre l'ascendant. Ils ont balayé les alertes lancées par plusieurs responsables et développeurs, notamment Jacob Coxon. Ce Britannique de 27 ans avait annoncé son départ d'Anthropic pour des raisons éthiques, s'inquiétant des risques que représente l'IA pour l'humanité. Le président américain a qualifié ces alertes de "canulars".
Le scénario d'une intelligence artificielle capable de prendre le contrôle de systèmes informatiques et, à terme, de menacer l'humanité ne fait tout de même pas consensus parmi les spécialistes. Dans le Guardian, le chercheur en intelligence artificielle Gary Marcus juge ainsi exagérées certaines des alertes les plus alarmistes concernant la capacité des IA à prendre le contrôle d'Internet ou à provoquer la disparition de l'humanité. Le professeur de cybersécurité Alan Woodward estime également au Guardian que certains de ces scénarios sont difficilement crédibles au regard de la résilience des infrastructures informatiques.
D'autres spécialistes considèrent toutefois que le problème ne peut pas être écarté. Dans une interview accordée à Business Insider, Ramana Kumar, ancien chercheur en sécurité chez Google DeepMind, souligne une particularité des systèmes d'IA très avancés : une intelligence suffisamment puissante pourrait, en théorie, être capable d'anticiper les tentatives humaines visant à la contrôler. Il pointe notamment le "problème de l'alignement", désignant les efforts visant à faire en sorte que les modèles se comportent comme le veulent les humains.
Une inquiétude que partage notamment Dario Amodei. Le patron d'Anthropic estime que le risque mérite en tout cas de ralentir le rythme du développement. Dans un texte, il appelle à donner davantage de temps aux dispositifs de sécurité pour suivre les progrès des modèles d'IA.
Pour le docteur Laurent Alexandre, le discours est trop "apocalyptique" et la société ne voit que "les côtés négatifs". "L'IA va apporter des progrès dans certains domaines comme celui de la médecine. (...) Les patrons de l'IA développaient [l'idée] que d'ici 2030 à 2035, on pourra vivre entre 100 à 150 ans car cette technologie va complètement révolutionner la médecine et la recherche", a-t-il assuré mercredi 16 septembre sur le plateau de Christine Kelly et Vous.
Une analyse plus prudente consiste toutefois à ne pas écarter totalement les scénarios les plus inquiétants, sans pour autant les considérer comme inéluctables. "On n'en sait rien du tout vers quel scénario on se dirige, mais le risque n'est pas négligeable", estime Fabrice Epelboin, analyste chez Resilience France (HCFRN), contacté par Europe 1. Selon lui, "les sondages évoluent depuis quatre à cinq ans sur un scénario catastrophique" et la société pourrait "se diriger vers une situation instable".
"On n'y est pas encore, mais à terme, on pourrait se diriger vers des scénarios de films de science-fiction. Mais il est trop tôt pour projeter ce scénario", poursuit-il. Pour Fabrice Epelboin, l'essor de l'intelligence artificielle s'inscrit plus largement dans une transformation profonde de la société : "On vit dans une réelle étape de transformation de notre société."
Répondre aux inquiétudes des utilisateurs
Pour répondre aux inquiétudes liées à un possible chemin vers l'apocalypse, OpenAI, Anthropic et Google DeepMind travaillent à la création d'un organe de supervision des risques liés à l'IA, en écho aux appels à mieux contrôler les dérives de cette technologie. Demis Hassabis, directeur général de Google DeepMind, avait imaginé une structure financée par les entreprises du secteur, dont le conseil comprendrait des experts indépendants ainsi que des représentants de l'écosystème ouvert.
Ce dernier est composé de développeurs d'IA ouvertes, c'est-à-dire accessibles gratuitement, téléchargeables et modifiables, à la différence des modèles fermés comme ceux d'OpenAI ou d'Anthropic. Une fois l'organisation en place, les sociétés les plus avancées dans le domaine de l'IA devraient soumettre leurs nouveaux modèles à un examen, axé en particulier sur la sécurité, avant de pouvoir les commercialiser.
Même au sein des entreprises qui développent ces technologies, le débat porte désormais sur le rythme auquel elles doivent être déployées. Sam Altman, le patron d'OpenAI, a ainsi estimé que la pression liée à la compétition technologique ne devait pas conduire les entreprises à prendre des risques inconsidérés. Une position qui illustre le dilemme auquel est confronté le secteur : poursuivre la course à l'IA tout en renforçant les dispositifs destinés à en limiter les dérives.
