Le Sénat étudie aujourd'hui le projet de loi relatif aux Jeux olympiques de Paris de 2024, avec la surveillance du public par des caméras intelligentes. Elles serviraient à détecter automatiquement les troubles lors des concentrations de personnes. Quels sont les enjeux de cette mesure ? 

Cela vous intéressera aussi

[EN VIDÉO] Futurologie : la reconnaissance de gestes au quotidien avec Kinect Suffisamment miniaturisé, un système de reconnaissance de gestes et des visages, comme le 3D Cnull

On se souvient des manifestations qui avaient eu lieu il y a maintenant plus de deux ans avant l'examen de la loi « sécurité globale ». Après avoir été raboté par le Conseil d'État, celui-ci vient de valider le texte sans grandes modifications, ni contestation. Le volet numérique inquiétait déjà fortement, mais ce n'est finalement pas grand-chose en comparaison du nouveau projet de loi proposé par le gouvernement pour encadrer les Jeux olympiques de Paris en 2024.

Amendé mercredi dernier par le Sénat pour un examen en séance publique devant la même assemblée ce mardi 24 janvier, un article parmi les autres concentre les appréhensions. L’article 7 autorise l'utilisation de systèmes de vidéosurveillance automatiques qui exploiteront une Intelligence artificielle pour détecter les « situations dangereuses pour la sécurité des personnes, comme les mouvements de foule ». Les dispositifs en question ne sont pas listés, mais, en plus des caméras de vidéosurveillance fixes, l'usage de drones n'est pas exclu. Ces aéronefsaéronefs sont désormais exploitables par les forces de l'ordre depuis le 20 janvier.

Lorsque l'on mêle l'utilisation de l'IA pour de la reconnaissance automatique via la vidéosurveillance, on imagine forcément que l'usage de la reconnaissance faciale automatisée peut se trouver en embuscade. Le gouvernement ne l'explicite pas, mais donner carte blanche à une l'IA pour surveiller permet d'en poser les bases. C'est en tout cas ce que redoute l'association la Quadrature du Net.

Même la Cnil veille au grain. Interrogée par France Info ce matin, sa présidente Marie-Laure Denis expliquait que l'usage de ces IA ne sera pas « open-bar » et sera réservé aux seules « enceintes sportives, aux abords des transports ». L'organisme va suivre de près la confection des algorithmes et évaluer son apprentissage. La présidente soulignait qu'il ne faut pas que le gouvernent en profite pour « introduire de la reconnaissance faciale ». Se pose aussi la duréedurée de la conservation des données. Sur ce point, Marie-Laure Denis expliquait que « la Cnil veillera à ce que ces données soient supprimées lorsqu'elles doivent l'être ».

La présidente de la Cnil appelle le gouvernement à ne pas utiliser la reconnaissance faciale. Signe d’une intention ? © Twitter, France Info

Du temporaire durable

Et puis, il y a l'encadrement des algorithmes. Futura expliquait hier qu'une IA entrainée à détecter des personnes pouvait être bernée lorsque l'on se déplace caché dans un carton. Une IA ne verra-t-elle pas une infraction ou un mouvement de foule là où il n'y en a pas ? Pour éviter les dérapages, le texte prévoit que le dispositif de surveillance soit contrôlé par des humains qui peuvent l'interrompre à tout moment.

Outre les aspects techniques, il y a également des craintes sur le fait que cette loi pourrait devenir permanente et ne pas se limiter aux seuls JO de 2024. D'abord, le projet de loi propose d'expérimenter le procédé lors de grandes manifestations sportives, dès l'entrée en vigueur de la loi et ce, jusqu'au 30 juin 2025. En argumentant avec le terme forcément anxiogène du « risque terrorisme », les dispositifs pourraient donc être exploités au-delà du cadre des Jeux olympiques 2024.

Ensuite, il faut noter que cela va même au-delà du sport, puisque la loi s'appliquerait également aux manifestations récréatives ou culturelles. En fin de compte, ces dispositions montrent bien que l'intention de ce projet est à vocation permanente. C'est en tout cas l'opinion du Conseil d'État. L'institution expliquait dernièrement dans un avis que le texte est conçu pour pouvoir s'appliquer en dehors de la période des Jeux olympiques. En guise de garde-fougarde-fou, la loi explique que l'expérimentation sera systématiquement soumise à autorisation de la préfecture. Reste à savoir ce que va décider le Sénat lors de sa séance publique aujourd'hui même.