La Cnil veut changer la définition de ce qu'est un algorithme en intégrant les notions de loyauté et de vigilance

  • A
  • A
La Cnil veut changer la définition de ce qu'est un algorithme en intégrant les notions de loyauté et de vigilance
La Cnil avance six recommandations présentée dans un rapport publié vendredi.@ STEPHANE DE SAKUTIN / AFP
Partagez sur :

La Commission s'est emparée des algorithmes, omniprésents dans l'univers numérique, parce qu'ils suscitent "un réel intérêt du grand public, et aussi un malaise du fait de l'incompréhension autour de cet objet technique", a indiqué sa présidente Isabelle Falque-Pierrotin.

La Commission nationale de l'informatique et des libertés (Cnil) présente vendredi un rapport visant à sensibiliser développeurs, entreprises et utilisateurs sur les enjeux éthiques des algorithmes et de l'intelligence artificielle. Ce document est le produit d'un vaste débat organisé par la Cnil entre janvier et octobre, la loi pour une République numérique de 2016 lui ayant donné mission de conduire une réflexion sur les enjeux éthiques et les questions de société soulevés par l'évolution des technologies numériques.

Pour son premier opus, la Commission s'est emparée des algorithmes, omniprésents dans l'univers numérique, parce qu'ils suscitent "un réel intérêt du grand public, et aussi un malaise du fait de l'incompréhension autour de cet objet technique", a indiqué sa présidente Isabelle Falque-Pierrotin.

La définition d'un algorithme en question. Dans son rapport, la Cnil définit simplement un algorithme comme "une suite finie et non ambiguë d'instructions permettant d'aboutir à un résultat à partir de données fournies en entrée", ce qui permet par exemple "fournir des résultats sur un moteur de recherche, proposer un diagnostic médical, conduire une voiture d'un point à un autre, détecter des suspects de fraude parmi les allocataires de prestations sociales, etc". L'intelligence artificielle désigne principalement "une nouvelle classe d'algorithmes, paramétrés à partir de techniques dites d'apprentissage", explique-t-elle aussi: les instructions à exécuter ne sont plus programmées explicitement par un développeur humain, elles sont générées par la machine elle-même, qui "apprend" à partir des données qui lui sont fournies. Cela permet d'accomplir des tâches dont sont incapables les algorithmes classiques.

Deux nouveaux principes "fondateurs". "Mais leur logique reste incompréhensible et opaque, y compris à ceux qui les construisent", souligne la Commission. "Deux principes nouveaux apparaissent comme fondateurs", selon le rapport. Le premier, "substantiel", est le principe de loyauté : l'algorithme ne doit pas trahir l'utilisateur, ni la communauté. Le second est un principe de vigilance : "On doit constamment créer du doute au niveau de l'algorithme; il doit sans cesse être remis en question" car il est extrêmement complexe et en perpétuelle mutation, insiste Isabelle Falque-Pierrotin.

Six recommandations. La Cnil avance six recommandations : former à l'éthique tous les maillons de la "chaîne algorithmique" - y compris les citoyens -, rendre les systèmes algorithmiques plus compréhensibles en renforçant les droits existants, travailler leur design au service de la liberté humaine, mettre sur pied une "plateforme nationale d'audit des algorithmes", encourager la recherche sur l'intelligence artificielle éthique et enfin "renforcer la fonction éthique au sein des entreprises".