d'ICI

2020,

1 MILLIARD

DE CAMERAS DE  SURVEILLANCE AURONT ÉTÉ INSTALLÉES DANS LE MONDE 

On estime que, d’ici 2020, 1 milliard de caméras de surveillance auront été installées dans le monde, que ce soit dans nos villes, sur nos routes. Un chiffre colossal qui fera de ces caméras la plus grande source de données disponibles pour les algorithmes d’Intelligence artificielle. En effet NVidia, fabricant de puces graphiques, ne cache pas son ambition de connecter toutes ces caméras à une intelligence artificielle « Metropolis ». Avec les algorithmes de Deep Learning exécutés sur les composants de l’américain, il sera possible de compter les véhicules et les piétons dans les villes, recréer les itinéraires de chacun pour, par exemple, optimiser les flux en synchronisant les feux de circulation en temps réel. Les algorithmes pourront aussi repérer les objets abandonnés, éventuellement signaler tout comportement suspect d’un groupe d’individus.

L’état de la technologie actuelle permet même d’activer la reconnaissance faciale sur ces flux vidéo afin de déclencher une alerte si un individu recherché apparait à l’écran mais, devant la perspective d’un monde Orwellien où toute la population serait sous le contrôle des IA, les défenseurs des libertés individuelles remettent en cause ce type d’approche. On se souvient de l’initiative de l’artiste américain Leo Saelvaggio qui propose à tous d’imprimer en 3D un masque représentant son visage afin de déjouer cette surveillance de masse via les caméras de sécurité. En outre, la CNIL avait opposé un avis défavorable au projet de la Mairie de Nice d’exploiter une vingtaine de caméras à reconnaissance faciale dans les « fanzones » de l’Euro de Football en 2016.

Néanmoins, la technologie est aujourd'hui disponible et prête à être déployée à grande échelle. Les mêmes caméras NEC qui n'avaient pu être activées à Nice ont été retenues par la police de Galles du Sud au Royaume-Uni. Montées sur un fourgon, les caméras NeoFace Watch ont été positionnées à proximité du stade de Cardiff lors de la finale de la ligue des champions du 3 juin. Celles-ci ont pu scruter le visage des 170 000 fans de football attendus dans la ville. Pour ce projet, les services de police ont alimenté le système avec 500 000 photos de suspect. Le dispositif a permis sa première arrestation, celle d'un repris de justice de 34 ans recherché par la police qu’aucun des policiers chargés de la protection du stade n’avait reconnu.

La technologie de reconnaissance faciale NEC à l'œuvre sur une foule.

Reconnaissance faciale

Shutterstock

Beaucoup moins polémique, le Deep Learning pourrait bientôt remplacer les opérateurs de scanner dans les aéroports américains. Le Department of Homeland Security  veut lancer une compétition visant à trouver le meilleur algorithme d’analyse d’image pour ses scanners. La compétition a été lancée sur Kaggle, une plateforme où sont régulièrement organisés des challenges sur l'analyse des données, une plateforme qui est fréquentée par un million de Data Scientists du monde entier. 108 équipes sont actuellement engagées dans une compétition dotée de 1,5 million de dollars de prix. A l'issue des sélections, le 15 décembre 2017, les agents du TSA disposeront du meilleur algorithme existant pouvant analyser les images de leurs scanners.

L'essor de la Police prédictive venu des Etats-Unis

L’analyse d’image est le domaine où le Deep Learning a su démontrer son intérêt, notamment sous l’impulsion du français Yann Le Cun mais aujourd’hui ses usages dans la sécurité vont bien au-delà de la simple analyse d’image.

Dès le début des années 2010, les services de police américains ont commencé à exploiter des algorithmes d’intelligence artificielle afin d'analyser les plaintes, les algorithmes prédictifs permettant d'aiguiller les patrouilles vers les zones où les crimes ont la plus forte probabilité de survenir à l'instant t. IBM a notamment poussé cette approche prédictive des la fin des années 2000. Sa solution Crush (Criminal Reduction Utilising Statistical History), rapidement surnommée "pré-crime" par la presse par analogie avec le film « Minority Report », a été déployée auprès de plusieurs villes américaines, avec des résultats parfois spectaculaires. Le système d'IBM a ainsi permis de faire baisser de 31% le nombre de délits et de 15% les violences dans la ville de Memphis grâce à une meilleure affectation des patrouilles. Pour parvenir à un tel résultat, la ville a du investir 3 millions de dollars dans la mise en place d'un vaste centre de contrôle informatisé façon NASA afin de suivre et analyser en temps réel les faits signalés et réagir aux recommandations des algorithmes.

Le centre de supervision temps réel de la police de Memphis

supervision

Police

7.4%

de criminalité

en moins grâce a l'IA

Un autre éditeur a connu un large succès auprès des forces de police des villes américaines avec cette approche prédictive, c'est PredPol. Cette startup est issue d'un projet de recherche entre la police de Los Angeles et de chercheurs en mathématiques de l'UCLA (Université de Los Angeles). La solution a été déployée auprès de plusieurs services de police américains et, là encore, les résultats ont été rapidement au rendez-vous, avec une réduction du nombre de vols, cambriolages significatifs. Les chiffres présentés par les municipalités équipées ont de quoi donner à réfléchir à bien des maires confrontés à la montée de la criminalité. Les estimations délivrées par PredPol sont étonnamment précises comparées aux "heatmaps" (cartes de chaleur) réalisées jusqu'alors par les analystes avec des outils statistiques. Alors que ces dernières délivrent une estimation assez approximative des zones où le plus de crimes et délits ont été signalés par le passé, le logiciel PredPol est capable de planifier chaque jour les patrouilles sur des carrés de 150 mètres de côté seulement. Une précision qui permet aux services de police à la fois de réaliser d'importantes économies, de l'ordre de 9 millions de dollars par an pour le LAPD, tout en permettant l'abaisser le niveau de criminalité de 7,4% en moyenne.

Généralement accueilli avec scepticisme par les agents chevronnés, PredPol permet de briser les habitudes prises par les patrouilles et pousse les policiers à se rendre dans des carrés PredPol auxquels ils ne pensaient pas jusqu'alors et quand, à force de patrouilles, le carré n'apparait plus sur les cartes générées par PredPol, les agents de patrouille ont la satisfaction d'avoir eu un impact sur la criminalité dans la zone en question. C'est un vrai changement d'approche alors que les policiers étaient jusqu'à présent essentiellement notés sur le nombre d'arrestations.

PredPol, le logiciel de police prédictive le plus employé aux Etats-Unis

Predpol

Predpol

PredPol bouscule les méthodes de travail des services de police et va même jusqu'à proposer un accès à une partie de ses données aux habitants via CrimeWhere, une carte Google Map où apparaissent les crimes et délits. L'utilisateur n'a accès qu'aux données historiques et ne peut vérifier si le prochain crime aura lieu dans sa rue...

Une soixantaine de villes ont déployés PredPol, essentiellement aux Etats-Unis, mais aussi au Royaume-Uni. En Europe, l'institut allemand pour la technique de prévision basée sur des modèles (IfmPt), fondé par le sociologue Thomas Schweer a développé un logiciel comparable baptisé Precobs, logiciel qui est notamment mis en oeuvre à Zurich, avec des résultats significatifs au niveau du nombre de cambriolages sans toutefois que les crimes et violences n'aient été impactés par le logiciel.

Premières notes discordantes quant à l'efficacité des algorithmes

Une critique faite aux systèmes de police prédictive est de n'être pertinents que sur les vols de voiture, cambriolages, alors que les crimes, par nature plus spontanés, seraient beaucoup moins prévisibles par les algorithmes. Une ville a poussé la logique prédictive bien plus loin afin de faire baisser un taux de criminalité record, c'est Chicago. Depuis 2013, les services de police de la ville utilisent des techniques de profiling afin d'identifier des individus fichés par la police et les plus susceptibles de perpétrer un crime à l'avenir. L'algorithme créé par Clarity Partner pour Chicago réalise un "scoring" des 2,7 millions d'individus fichés par les services de police de la ville. L’algorithme a ainsi établi une liste des 1 400 personnes les plus susceptibles de passer à l'acte, la liste SSL (Strategic Subject List).

L'idée initiale était de proposer un programme d'aide sociale ou, le cas échéant, un suivi étroit par la police de ces individus, mais, mise en place en 2013, cette approche n'a pas eue d'impact sur le taux de criminalité dans la ville. Dans un communiqué de presse, les services de police de la ville soulignent que l'évaluation de l'efficacité de l'approche a été réalisée alors que son algorithme n'était alors qu'en version 1 et que la version 5 actuelle a  été améliorée. Dans l’attente d’une nouvelle évaluation, le super-intendant et le directeur de la police de Chicago maintiennent leur stratégie de scoring.

OAKLAND A ARRÊTÉ D'UTILISER PREDPOL

Oakland

L'approche prédictive a démontré ses atouts, mais aussi certains biais. La ville d'Oakland s'est équipée de PredPol en 2015 sous l'impulsion de Paul Figueroa, assistant du chef de la police de la ville. Après quelques mois d'utilisation, la police d'Oakland a décidé de mettre fin à l'expérience car même si l'efficacité du système a été reconnue, celui-ci déclenche des effets indésirables, notamment en raison du nombre accrus d'arrestations auprès des communautés afro-américains, hispaniques et d’autres minorités de la ville. PredPol pousse les patrouilles à concentrer leurs efforts dans les zones où le plus d’incidents sont signalés, ce qui augmente le nombre d’arrestations dans ces zones et donc accroit encore le poids de ces quartiers dans l’algorithme. De ce fait, la police d’Oakland a jugé que l'algorithme opposait indirectement les communautés entre elles. Le souvenir des émeutes raciales de 2009 a poussé la ville à mettre fin à l'expérience pour ne pas jeter de l'huile sur le feu.

La cybersécurité, un champ d’application infini pour les IA

Si les forces de police peuvent analyser les données relatives aux crimes et délits, les entreprises exploitent de plus en plus des moteurs d'intelligence artificielle pour détecter les comportements suspects de leurs salariés sur le réseau de l’entreprise. Jean-Nicolas Piotrowski, PDG et fondateur d’ITrust, éditeur français d'un moteur d'analyse comportementale, résume les enjeux en termes de cybersécurité : « 75 % des entreprises ont été piratées ces deux dernières années car on ne sait détecter des menaces connues : les antivirus ne détectent que les virus dont ils ont la signature, les systèmes de détection d'intrusion ne repèrent que les scénarios d'attaque qu'ils connaissent, or face à des attaques ciblées sophistiquée, cette approche ne fonctionne pas. » Les attaques les plus redoutées, appelées APT (Advanced Persistent Threat), voient les pirates s'introduire dans un système en toute discrétion, puis se déplacer d'un serveur à un autre en veillant à ne pas déclencher d'alarme. De telles attaques sont menées sur une longue durée, parfois plusieurs mois, afin de ne pas éveiller l’attention des outils de détection d’intrusion. Il s’écoule en moyenne 312 jours pour que les experts sécurité identifient et corrigent une faille de sécurité non cataloguée, ce que l'on nomme une faille « Zero Day ». Presque une année pendant laquelle les pirates peuvent exploiter la faille sans opposition.  « La sécurité informatique est en train de connaitre une révolution comme l'informatique a pu connaitre dans les années 80 » ajoute Jean-Nicolas Piotrowsi. « Nous passons désormais à une sécurité comportementale qui met en œuvre Big Data et Machine Learning afin d'analyser les signaux faibles. Un APT qui n'était repéré qu'au bout de 20 mois peut l'être en quelques heures. » Voici quelques jours, un acteur français majeur de la cybersécurité, Atos, annonçait l'arrivée des algorithmes prédictifs dans ses 14 centres de supervision de la sécurité, rebaptisés Prescriptive SOC (Security Operations Centre) pour l'occasion.

Rédigé par Alain Clapaud
Journaliste indépendant, spécialisé dans les nouvelles technologies