Avec le développement fulgurent de la technologie, des outils sophistiqués ont été découverts pour mieux permettre à l’homme de faire face aux nouveaux défis de ce monde moderne. C’est ainsi que surgit l’Intelligence artificielle (IA) qui a réussi en un temps record à s’imposer. Aujourd’hui, beaucoup de domaines sont couverts par cette invention. La santé, la sécurité, l’éducation, etc., sont autant de secteurs dont l’IA aide le développement. C’est d’ailleurs à ce titre que des chercheurs de la Fondation pour l’innovation politique (Fondapol), se basant sur l’exemple de la France en particulier et de l’Europe en général, ont produit une note intitulé « IA au service de la sécurité) pour revenir sur les liens entre les services de la sécurité et l’IA.
L’histoire des forces de sécurité intérieure est parsemée d’innovations technologiques, générant des débats à la fois sur leur efficacité et sur la protection des libertés fondamentales. Les objets connectés et les systèmes d’IA ne font pas exception à la règle. L’IA pourrait potentiellement amener à de profondes transformations dans l’exercice des métiers de la sécurité intérieure. Elle a d’ores et déjà été utilisée lors de certains événements pour aider à la décision et traiter les données, comme lors des jeux olympiques et paralympiques de Paris 2024. Cela nécessite un cadre juridique rigoureux, étant donné la sensibilité du sujet, cadre incarné par la CNIL en France et l’AI Act au niveau européen, avec pour objectif de garantir la sûreté, la transparence, l’éthique et le contrôle humain des systèmes d’IA.
Les perspectives ouvertes par ces derniers en matière de sécurité intérieure sont très vastes : optimisation des échanges entre forces de sécurité intérieure, analyse de données et production de connaissance, aide à l’action en temps réel, simplification des tâches administratives, accélération des procédures pour les usagers… Au-delà d’un cadre législatif et éthique clair, ces innovations, pour être utiles, doivent s’inscrire dans une doctrine au niveau du ministère de l’Intérieur, qui tiendrait compte du ressenti des effectifs de terrain et s’appuierait sur des dispositifs d’évaluation pour mesurer l’efficacité et le rapport coûts/bénéfices de ces outils.
IA et sécurité : des besoins opérationnels, des conditions à réunir
En effet, les objets connectés et les systèmes d’IA structurent toujours davantage nos vies quotidiennes : transports, commerce électronique, livraison à domicile, énergie, santé, domotique, agriculture… La majorité de la population française connaît ainsi une vie numérique qui se densifie et se diversifie avec l’IA.
En France, l’IA est évoquée de manière plus progressive dans les métiers de la sécurité, à savoir ceux qui sont exercés par les forces de sécurité intérieure, qu’ils soient policiers nationaux, gendarmes, ou policiers municipaux.
Comme indiqué précédemment, depuis des années, la technologie a fait évoluer les métiers de la police, enclenchant une véritable bascule numérique. Le développement des usages du numérique par les forces de sécurité intérieure est en effet massif, notamment pour :
– appuyer leurs actions au quotidien avec la mise à disposition de systèmes d’informations, de bases de données et logiciels informatiques pour prendre un dépôt de plainte, permettre de rédiger des procédures, consulter des informations sur un individu, ou dernièrement le développement de la biométrie (digitale et génétique) utilisée par les forces de sécurité intérieure pour identifier et authentifier des individus (prises d’empreintes digitales, …) ;
– améliorer la communication opérationnelle grâce à des outils de cartographie, des réseaux de communication, des outils mobiles pour accompagner les patrouilles ;
– renforcer et anticiper le suivi de la délinquance, notamment dans les territoires, ou assurer la gestion de crise (vidéoprotection, centre de commandement…) ;
– numérisation de la prise en charge des victimes avec le développement plus récent de sites en ligne et applications dédiés (dépôt de plainte, signalement, …).
L’IA pourrait venir renforcer chacun de ces usages numériques actuels. En effet, les forces de sécurité intérieure disposent déjà de moyens numériques avancés et exploitent quotidiennement des données. Grâce à l’IA, ces moyens pourraient être décuplés, marquant une nouvelle révolution numérique au ministère de l’Intérieur.
En effet, l’IA n’est pas seulement un outil mais une véritable innovation disruptive, comme formulé par Clayton Christensen9, des métiers et des pratiques professionnelles et pourrait ainsi amener des transformations profondes des métiers exercés par les forces de sécurité intérieure, notamment ceux en tension et en crise, comme pour la police judiciaire. L’IA pourrait également renforcer la sécurité des Français en réduisant le temps consacré par les forces de sécurité intérieure à des tâches techniques ou administratives, augmentant ainsi leur présence sur la voie publique ce qui permet de dissuader et prévenir la délinquance.
Un cadre éthique nécessaire
Pour cela, des conditions préalables sont nécessaires, à commencer par une bonne maîtrise du cadre juridique et règlementaire national et européen. Ensuite, il est nécessaire de poser le cadre politique de l’usage de l’IA afin d’en faciliter la compréhension par les forces de sécurité intérieure elles-mêmes, ainsi que l’acceptation des Français et la société dans son ensemble10. L’IA doit être identifiée comme un outil et non comme une fin en soi, car utilisée dans un cadre éthique et souverain, clair et partagé, loin des usages parfois excessifs développés à l’étranger.
L’IA doit être un outil, la prise de décision, l’action et le contrôle devant toujours relever des forces de sécurité intérieure, il n’est pas question en effet de sacrifier ces principes clés à « la civilisation des machines », comme s’en inquiétait déjà Georges Bernanos en 1947 dans La France contre les robots.
Enfin, il convient de s’assurer de la souveraineté des technologies avec, idéalement, des solutions employées françaises ou européennes et surtout de travailler à une nécessaire identification des bons cas d’usage susceptibles de satisfaire au déploiement progressif de l’IA au service de la sécurité des Français. Il s’agit de l’objectif de cette note : identifier des applications et des usages matures pour définir ce que l’IA pourrait faire ensuite, dans ce cadre maitrisé à la fois juridiquement, d’un point de vue éthique et, enfin, technologiquement.
L’IA comme une aide à la décision dans le traitement de la délinquance
Anticiper et prévenir des faits de délinquance est le cœur du métier des forces de sécurité intérieure. C’est la raison pour laquelle, dans le cadre de projets et d’expérimentations, l’IA a d’ores et déjà été sollicitée non pas pour prédire les faits de délinquance mais pour mieux les comprendre, les analyser, et in fine aider à décider. En effet, la délinquance n’est pas un phénomène aléatoire et peut être analysée en récupérant des données statistiques sur un territoire défini afin d’alimenter des modèles mathématiques permettant de mieux opérer au quotidien sur ce territoire (localisation, horaires des patrouilles…). Des méthodes analytiques ont été utilisées par la Gendarmerie nationale, comme les réseaux neuronaux ou le lissage temporel sur des données non personnelles et non nominatives issues du Service statistique ministériel de la sécurité Intérieure (SSMSI), ensuite exploitées par de la data visualisation (tableaux de bord) afin de suivre l’évolution de la délinquance sur un territoire. Il ne s’agit donc pas d’outils de police prédictive, car ils ne prévoient rien, mais d’analyse décisionnelle sur des faits passés pouvant fournir une orientation aux forces de sécurité intérieure, ce qui leur est impossible d’avoir sans la capacité d’analyse et de croisement de données de l’IA. La méthode consiste à regarder, à titre d’exemple, où ont eu lieu des cambriolages et des atteintes aux véhicules sur une période donnée et un territoire pour en déduire où risquent de se produire les prochains faits. L’idée est de s’en servir pour cibler des territoires précis et planifier l’engagement d’unités où l’infraction risque de se produire afin de dissuader d’éventuels délinquants.
D’autres expérimentations avec des outils plus prédictifs, allant au-delà de l’aide à la décision et comprenant une prédiction en termes de risque ou d’occurrence, ont aussi été réalisées mais n’ont pas démontré leur plus-value opérationnelle.
Des usages de l’IA développés pour aider au traitement de données
La Gendarmerie nationale a aussi développé les premiers outils de traitement de données à base d’IA, notamment pour appuyer des phases d’enquête et d’investigation. Des outils peuvent ainsi être employés pour appuyer les forces de sécurité intérieure dans la surveillance de communications mise en œuvre dans le cadre d’une enquête de police judiciaire. Ils permettent de détecter les langues parlées dans des écoutes téléphoniques autorisées par un juge d’instruction, de retranscrire et de traduire les échanges, d’identifier et de signaler les sujets pertinents pour l’enquête via des réseaux récurrents de neurones11.
De même, un projet a été développé permettant la retranscription d’auditions filmées (par exemple d’une victime) et incluant également un outil d’annotateur des objets d’un texte de procédure (personnes, lieux, date, objets…).
Enfin, l’Agence du numérique des forces de sécurité intérieure (ANFSI), en charge du développement de leurs équipements numériques expérimente un outil de réalisation du compte rendu d’intervention simplifié par « commande vocale » sur les smartphones NEO.
Un usage opérationnel réel et multiple au service des forces de sécurité intérieure
Dans ce cadre juridique précis, compte tenu des réflexions engagées par le ministère de l’Intérieur et du cadre législatif posé, il convient donc désormais de se projeter et de réfléchir sur les apports et bénéfices que l’IA pourrait amener dans les métiers de la sécurité intérieure, en s’appuyant sur les technologies existantes et en identifiant les conditions pour de tels usages : échanges et communications entre forces de sécurité intérieure, partage et accès à la donnée, simplification des tâches, analyse de la donnée dans les phases d’enquête…
Il est important de rappeler que les usages identifiés dans cette partie, le sont dans une démarche prospective, qui tient compte du cadre juridique et règlementaire évoqué précédemment, et s’inscrivent dans un usage de l’IA soucieux d’apporter une plus-value opérationnelle aux forces de sécurité intérieure tout en ne transigeant pas sur les enjeux éthiques de protection des données et autour d’un usage raisonné loin des pratiques de certains pays non européens qu’il convient à tout prix d’éviter pour préserver la singularité de notre modèle français.
L’IA doit venir en appui des forces de sécurité intérieure, mais elle ne doit pas devenir « l’agent », c’est-à-dire que les tâches qui pourraient être déléguées devront rester sous la primauté humaine, par le contrôle et la validation des forces de sécurité intérieure. Cette délégation doit ainsi accélérer l’action, la décision mais ne doit pas créer une dépendance. Il s’agit donc de bien identifier les cas d’usage sur les bons processus, notamment ceux à faible valeur ajoutée et de bien maintenir in fine la capacité de prise de décisions des forces de sécurité intérieure.
Pour tirer profit des opportunités analytiques de l’IA
a. Travailler sur des grandes masses de données
L’IA offre des opportunités de calcul et d’automatisation de certaines tâches pour les forces de sécurité intérieure confrontées à des masses de données à traiter que ce soit dans des tâches administratives ou des activités de police judiciaire. Des agents du ministère de l’Intérieur ont par exemple la charge d’activités de « criblage » des personnes embauchées sur des métiers sensibles auprès de l’ensemble des SI à analyser pour « valider » la personne concernée. Sur ces activités d’analyse de masse sur des fichiers de données sécurisées, un apport de l’IA pour accélérer et fiabiliser les enquêtes pourrait amener de la valeur et concentrer l’œil humain sur l’essentiel ou lui permettre un contrôle et une validation in fine plus efficace.
Sur des phases d’enquête et d’investigation, il pourrait être également opportun de s’appuyer sur l’IA pour de la recherche de données et la comparaison avec des bases de données importantes, par exemple dans le cas d’élucidation de crimes avec la comparaison génétique et le fichier dédié des empreintes génétiques (FNAEG). L’analyse ADN est une des méthodes les plus employées par la police scientifique pour identifier l’auteur d’un crime. De plus, l’IA pourrait faciliter les enquêtes judiciaires où les pièces et les dossiers sont toujours plus volumineux et plus complexes. Devant la multiplicité et l’hétérogénéité des données, la puissance de calcul de l’IA peut permettre de mieux les classer, les lier entre elles et les mémoriser dans un délai très court. L’enquêteur pourrait donc voir, analyser et confronter plus rapidement, avec moins d’erreur.
Ensuite, la plupart des données d’une enquête judiciaire sont stockées sur des disques durs à des fins de conservation. Il est impossible de réaliser le tirage papier du contenu d’une clé usb (photos, documents, fichiers divers) ou de la mémoire d’un ordinateur. Des outils d’assistance à même de croiser et lier ces données sont nécessaires pour identifier des indices parmi les grandes masses de données disponibles. L’IA pourrait accomplir ce travail de classification et de connexions entre les faits et les indices, qui sont retrouvés dans les dossiers judiciaires. Un enjeu clé est la gestion de volumétrie de masse pour la donnée judiciaire, pour aller plus vite dans des processus d’enquête et d’investigation ou pour permettre une décision plus rapide sur la voie publique ou en intervention. Il s’agit, ici aussi, de bien définir les cas d’usage et d’entraîner au préalable les systèmes d’IA pour assurer une pertinence des analyses via de la génération de données synthétiques.
b. Mieux analyser et interpréter des images et des sons en grande quantité
L’IA introduit de nouvelles techniques qui permettent d’analyser et interpréter des images avec le développement génératif. Ces solutions pourraient permettre d’appuyer les phases d’enquête par l’analyse augmentée de photos de scènes de crime, d’accidents de la route ou d’images issues de centres de supervision urbain (CSU) et identifier ainsi des images d’intérêt. La vision par ordinateur, par l’utilisation de réseaux neuronaux permettant d’interpréter et d’analyser des informations visuelles complexes, peut aider à la détection de surfaces spécifiques à partir de photographies ou d’images satellites (parking, toitures, décharges sauvages, points de deal…) qui peuvent être utiles aux forces de sécurité intérieure pour identifier des véhicules recherchés, des points particuliers (trafic de drogues…).
L’IA peut en effet accélérer le processus d’analyse et de détection via des outils effectuant de l’analyse d’image et de l’analyse comportementale avec des algorithmes de réseau à convolution capables de repérer des objets, des faits ou des individus. Actuellement les techniques d’apprentissage permettent de retrouver la photo d’un individu, d’un objet, d’une arme parmi les milliers de photos contenues communément dans un ordinateur ou un téléphone. Les techniques d’apprentissage de l’IA dédiées à la reconnaissance d’objets ou de formes dans un contenu constitueraient un apport non négligeable.
Enfin, l’IA peut apporter beaucoup avec les technologies de reconnaissance vocale qui peuvent déchiffrer les caractéristiques vocales propres à chaque individu, convertir les mots parlés en modèles qui peuvent être exploités, et comparés à des empreintes vocales stockées (échantillons vocaux provenant d’appels téléphoniques ou d’enregistrements).
c. Mieux analyser et détecter rapidement
Le recueil d’information en source ouverte (OSINT, SOCMINT24) est une pratique désormais commune et répandue du fait de la multiplicité des données accessibles et disponibles notamment sur les réseaux sociaux.
L’appui de l’IA sur ces phases de recueil d’information en source ouverte est fondamental pour détecter et caractériser rapidement des situations de danger et d’urgence à une vitesse supérieure à celle de l’effacement par les délinquants de leurs traces numériques, ou pour réaliser, par exemple, de la veille pour analyser le « bruit informationnel » (web scraping), en intégrant le cadre fixé par l’AI Act, pour détecter et contrer de « la propagande » ou de la désinformation. En utilisant des algorithmes avancés d’IA et d’apprentissage automatique, il est possible d’analyser rapidement de vastes quantités de données pour identifier des motifs, des mots-clés ou des contenus visuels. De plus, les systèmes pilotés par l’IA peuvent être entraînés sur des matériaux de propagande ou de désinformation connus pour repérer de manière proactive de nouveaux contenus partageant des caractéristiques similaires et les signaler, assurant une suppression plus réactive et efficace de ces contenus avant qu’ils ne se propagent.
L’enjeu résidera, pour assurer l’efficacité de ces outils, d’être en capacité de gérer à grande échelle, des données structurées (mots, signes, chiffres…) et non structurées (images, sons, vidéos…), de disposer d’outils et de plateformes pour les gérer et les rendre exploitables grâce à des modèles d’apprentissage automatiques auto-apprenants, ces outils peuvent en effet reformater ces données non structurées. Les technologies d’analyse automatisée du langage écrit, qui reposent sur l’IA, permettent de procéder à de l’analyse et de l’extraction de contenus, et traitent des volumes d’informations qu’il serait hors de portée d’effectuer manuellement. Afin d’améliorer la gestion de l’alerte et la détection rapide de situations dangereuses non signalées aux centres opérationnels, il est possible d’expérimenter l’automatisation de la captation d’informations en sources ouvertes librement accessibles sur les réseaux sociaux.
L’IA peut enfin permettre une vitesse de réponse plus rapide, via l’apprentissage automatique par exemple : on donne une multitude de données à un système d’IA qui va apprendre, au fur et à mesure, à les traiter automatiquement. Grâce à cette technique, on peut suivre la trace du véhicule d’un auteur de crime en fuite à travers les caméras de surveillance, l’analyse des vidéos se fera plus rapidement qu’une analyse humaine qui peut alors se concentrer sur l’exploitation des données et le contrôle de l’usage. L’IA pourrait permettre d’appuyer des opérateurs d’un CSU dans leurs activités de verbalisation par vidéoprotection : détection de déchets, détection d’objets abandonnés, calcul du temps de présence d’un véhicule, stationnement près de lieux sensibles, passage aux feux rouges ou au stop, franchissement de lignes, détection de départs de feu, analyse de mouvements de foule, détection d’armes…
Augmenter les capacités d’enquête
Parmi les éléments d’enquêtes, les enquêteurs disposent souvent d’auditions, de relevés bancaires, téléphoniques, et des déclarations qui pourraient faire l’objet d’exploitation par des logiciels à base d’IA dédiés afin de relever des incohérences, à repositionner temporellement et géographiquement ou à générer des schémas relationnels. L’incrémentation de ces données à partir des documents papiers ou numériques est longue. Les outils de l’IA pourraient permettre de détecter ces éléments directement dans des textes, de les identifier et de les classer selon leur signification et de générer automatiquement des schémas relationnels. Le gain de temps et la souplesse d’emploi rendent l’intérêt de ces outils évident avec par exemple la capacité de procéder à des classements et des liens, en temps réel à partir d’enregistrements sonores ou numériques, à suggérer des questions qui appuieront le travail des enquêteurs pour leur permettre d’identifier et interpeller plus vite un suspect.
L’IA pourrait aussi permettre des détections en temps réel sur des flux très importants de faux documents et de fraudes, impossibles à réaliser pour les hommes en raison de leur ampleur. Ainsi, dans le domaine de la sécurité routière que ce soit pour lutter contre la fraude au permis de conduire, la fraude à l’assurance ou la fraude dans les démarches spécifiques et répétitives (fraudes liées à la désignation en cas d’amendes routières ou en cas de contestation d’amende, fraude à l’immatriculation, lutte contre les vols de véhicules…). Enfin, en utilisant des outils d’analyse pilotés par l’IA, les enquêteurs pourraient analyser des millions de transactions financières, détectant ainsi de nombreuses anomalies, telles que des mouvements de fonds suspects, pour identifier la fraude. Cela se traduirait concrètement par une capacité accrue à analyser et à comprendre les schémas criminels, à détecter des liens et faciliter par exemple la coopération internationale face à des réseaux mondialisés. Les démantèlements ces derniers temps d’outils de communication cryptée utilisés par des réseaux criminels (EncroChat,…) a montré le rôle clé de l’analyse de grands ensembles de données complexes.
Enfin, il peut être relevé que, dans la lignée des recommandations de la CNIL et de la règlementation européenne liée à l’AI Act, l’IA pourrait venir sécuriser les exploitations par les forces de sécurité intérieure d’images, de documents, de vidéos en automatisant le masquage de passages, extraits ou parties de documents afin de renforcer la protection des données personnelles et du respect de la vie privée. L’IA peut en effet détecter des éléments dans une donnée non structurée (comme une image) via des réseaux à convolution et opérer un filtre sur ce qui a été défini au préalable, comme étant à filtrer ou masquer. De même, l’IA pourrait offrir aussi la possibilité de mieux contrôler les cas de consultation anormale de fichiers de police par les forces de sécurité intérieure, grâce à la détection des connexions ou des usages détournés permettant ainsi à une direction centrale ou à une inspection de répondre plus rapidement à ces agissements.
Avec Fondapol
