Comment l'Union européenne veut encadrer l'usage de l'intelligence artificielle
La Commission européenne doit présenter mercredi un projet de réglementation des systèmes d'intelligence artificielle. Tout ce qui permet une surveillance généralisée de la population restera interdit, et la reconnaissance faciale demeurera strictement encadrée.
Depuis des années, l'intelligence artificielle fascine par les progrès qu'elle permet, tout en inquiétant par les risques qu'elle fait peser sur la vie privée et le respect des libertés fondamentales. C'est donc pour profiter de cette révolution industrielle tout en rassurant que l'Union européenne doit dévoiler mercredi après-midi un projet de réglementation pour en encadrer les usages.
Le texte prévoit d'interdire certaines utilisations. Ce qui semble trop dangereux restera donc interdit en Europe, comme tout ce qui permet une surveillance généralisée de la population par exemple, comme en Chine, où l'État sait quand vous traversez aux feux rouges. Sera également interdit ce qui sert à manipuler un individu, comme un un jouet intelligent qui pourrait mettre en danger un enfant.
Un cadre pour les entreprises
La Commission européenne distingue également des utilisation utiles, mais à haut risque. Cela va des programmes qui trient les CV à ceux qui aident à prendre des décisions judiciaires, en passant par les robots en chirurgie. Pour ces usages, Bruxelles définit des garde-fous : un humain devra toujours superviser les processus, et il faudra aussi surveiller les risques de discrimination ou de biais de la machine.
Par exemple, si on lui demande de choisir un patron, il faudra éviter qu'elle ne retienne que des hommes blancs parce que les données lui indiquent que c'est fréquent. L'idée est donc que les entreprises aient un cadre à l'intérieur duquel elles puissent innover ensuite.
La reconnaissance faciale autorisée dans des cas très précis
L'un des points les plus attendus est celui de la reconnaissance faciale . Il y a deux cas de figure. Tout d'abord : l'utilisation de la biométrie pour vérifier que vous êtes vous, que ce soit pour déverrouiller votre téléphone ou pour passer une douane. Ces utilisations sont déjà possibles et encadrées par le Règlement européen sur la protection des données.
Cette fois, la Commission régule l'identification d'une personne à son insu dans l'espace public. Cela restera interdit, sauf dans quelques cas très précis. Il sera ainsi possible de rechercher le visage d'un enfant disparu, celui d'un suspect dans un contexte terroriste, ou encore celui d'une personne accusée d'un crime grave. Pour cela, les enquêteurs devront obtenir une autorisation et ce sera pour un temps limité. Une éventualité qui inquiète déjà les défenseurs de la vie privée.