Publicité
Publicité

Technologie : l'intelligence artificielle est capable de mentir et de manipuler ses créateurs

Antoine Bienvault - Mis à jour le . 1 min

Jusqu'où ira l'intelligence artificielle ? On en a déjà un aperçu et le résultat est très inquiétant. Les derniers modèles, aux États-Unis, ne se contentent plus d'obéir aux ordres. Deux intelligences artificielles ont menti et tenté de manipuler leurs créateurs. Mais que s'est-il réellement passé ?

L'intelligence artificielle est-elle dangereuse comme celle que nous voyons dans les films hollywoodiens ? C'est ce que semblent indiquer les dernières constatations aux États-Unis qui se sont révélées très inquiétantes.

La suite après cette publicité
La suite après cette publicité

Il y a d'abord cette IA, nommée Claude 4 et développée par la société Anthropic. Alors que les ingénieurs menaçaient de la débrancher, l'intelligence artificielle a tout simplement fait du chantage à un ingénieur en le menaçant de divulguer une supposée liaison extra-conjugale. Un comportement presque humain, donc vicieux, qui n'étonne pas François Stephan, directeur général de l'ECE, école d'ingénieur en intelligence artificielle. 

"C'est un outil qui est tellement puissant, qu'il peut être extrêmement dangeureux"

"C'est une espèce de fiction qui devient presque réalité, puisque comme l'IA a récupéré des récits, des documents un peu de fiction, elle en a fait une réalité. Elle s'est dit 'tiens, si j'appliquais ça'. En fait, c'est une puissance de calcul et une puissance d'analyse de données derrière, qui nous donne le vertige et qui fait qu'on a quelques fois du mal à imaginer ça et à admettre ça". Car l'IA s'inspire de tous les écrits et savoir qu'elle peut trouver. Au point donc, parfois, de donner l'impression d'avoir un cerveau humain. 

La suite après cette publicité
La suite après cette publicité

Autre exemple, chez un deuxième géant de l'intelligence artificielle, OpenAI. Une IA a essayé de se télécharger sur des serveurs extérieurs sans l'autorisation des ingénieurs. Et une fois prise la main dans le sac, l'IA a tout simplement nié son comportement, un petit peu comme un enfant pris sur le fait. Une nouvelle illustration des dangers de l'IA selon François Stephan. 

"Ce sont des exemples qui doivent nous alerter je pense. Les IA sont des outils extrêmement puissants, qui peuvent apporter énormément à l'humanité mais c'est un outil qui est tellement puissant, qu'il peut être extrêmement dangeureux. Je pense qu'il faut effectivement s'en saisir et ne pas verser dans le catastrophisme ni dans l'angélisme". 

La suite après cette publicité
La suite après cette publicité

Pour dire à quel point l'IA peut être puissante, certains spécialistes américains proposent même de tenir l'intelligence artificielle légalement responsable de ses actes et ainsi d'être jugés comme les humains.