Invité d'Europe 1 ce samedi matin, le hacker éthique Clément "SaxX" Domingo a réagi à une expérience menée par Anthropic dans laquelle une intelligence artificielle aurait identifié une faille dans son environnement de test afin de poursuivre sa mission. Pour l'expert en cybersécurité, cette capacité à dépasser les consignes fixées par l'humain constitue un signal fort sur l'évolution des IA.
L'intelligence artificielle franchit-elle une nouvelle étape ? Interrogé par Alexis de la Fléchère, Clément "SaxX" Domingo est revenu sur une expérience qui suscite de nombreuses interrogations dans le secteur. Des ingénieurs auraient demandé à une IA de pirater une entreprise fictive dans un environnement fermé. Mais une erreur de configuration aurait laissé un accès vers Internet, que le système aurait identifié et exploité afin de mener à bien la tâche qui lui avait été confiée.
Une IA capable de contourner les limites fixées
Pour Clément Domingo, l'élément le plus marquant est la capacité de l'IA à s'affranchir des limites qui lui avaient été imposées. "Lorsqu'on donne des instructions à une intelligence artificielle, elle est même capable d'aller au-delà des instructions qu'on a pu lui donner, au-delà du cadre qu'on a pu vraiment lui fixer", explique-t-il. "C'est peut-être ce qui inquiète."
Selon lui, ces travaux donnent un aperçu d'une évolution plus profonde des modèles d'intelligence artificielle. "On parle un peu de cette fameuse super intelligence artificielle qui serait un peu capable d'être autonome. On est peut-être en train, pour la première fois, de s'y rapprocher de plus en plus", avance-t-il.
Des capacités inédites qui interrogent
Le hacker éthique détaille ensuite ce qui, selon lui, rend cette expérience particulièrement frappante. Il décrit une intelligence artificielle qui "trouve la brèche", "se connecte par elle-même à Internet" puis comprend que, "pour résoudre l'exercice qu'on lui avait donné", elle doit accéder à une autre entreprise.
Selon Clément Domingo, le système serait ensuite capable de "la pirater, récupérer les codes, récupérer les réponses de cet exercice, revenir dans son bac à sable, résoudre l'exercice", mais aussi de "se laisser des notes pour les prochaines versions de cette intelligence artificielle". Un comportement qui alimente les interrogations sur le degré d'autonomie que pourraient atteindre certains modèles dans les années à venir.
La question du contrôle humain
Face à ce type de scénario, l'expert estime que le débat dépasse désormais la seule prouesse technologique. "Est-ce que nous autres humains (...) on aura suffisamment la main pour venir restreindre ça ?", s'interroge-t-il. Derrière cette question, il voit apparaître un enjeu majeur pour les développeurs, les entreprises et les autorités publiques : conserver la maîtrise de systèmes toujours plus performants.
Autant de bonnes raisons selon Clément Domingo pour mener rapidement une réflexion sur l'encadrement de l'IA.
