Amazon a du débrancher une logiciel de recrutement qui s’est révélé sexiste

  • A
  • A
Voir la vidéo sur Dailymotion
L'édito économique d'Axel de tarlé est une chronique de l'émission Deux heures d'info
Partagez sur :

Chaque jour, Axel de Tarlé fait un point sur l'économie.

Amazon a dû débrancher une "Intelligence Artificielle" qui s'est révélée sexiste !

Amazon a développé un logiciel de recrutement.
Sur 100 CV, le programme devait sélectionner les cinq meilleurs, les mieux adaptés pour le poste.
Sauf qu'effectivement, Amazon a du stopper net son expérience car on s'est aperçu que ce logiciel de recrutement avait des biais sexistes et avait tendance à écarter des CV, tout simplement parce qu'ils émanaient de femmes.
Si dans le CV, il apparaissait que vous étiez à tel ou tel club féminin, vous étiez éliminée !
C’est un comble parce qu'Amazon avait développé ce programme informatique en pensant justement qu'une machine ou qu’un logiciel serait neutre sur la question homme/femme, mais lui aussi est machiste.
Ce programme de recrutement utilise ce quon appelle le "machine learning", c'est-à-dire qu'il se base sur des données en ligne qu’il va reproduire au mieux. Il s'est donc appuyé sur des décisions passées, des décisions sexistes.
La machine a remarqué que, par le passé, les CV de femmes avaient moins la cote et il a donc reproduit ce schéma.

Il était arrivé la même mésaventure à Microsoft. Il y a deux ans, l’entreprise avait développé une intelligence artificielle de conversation, un algorithme capable d'échanger avec vous comme si c'était un humain.
Sauf que cette intelligence artificielle avait fait son apprentissage en lisant des messages et des échanges sur les réseaux sociaux. Que s'est-il passé ? L'intelligence artificielle a vu comment se comporter les humains. Du coup, elle a fait pareil. Au milieu d'une conversation, elle s'est donc mise à balancer des propos et des blagues racistes, le plus ingénument du monde. Microsoft a immédiatement stoppé l'expérience et présenté ses excuses.

On voit bien que le problème, ce n'est pas la machine mais l'homme.
La machine ne fait qu'assimiler ou copier les humains, pour le meilleur et pour le pire.