PROJET AUTOBLOG


Reflets

Site original : Reflets

⇐ retour index

Mise à jour

Mise à jour de la base de données, veuillez patienter...

Le nouvel âge de l’algopolitique… et ses outils

mardi 13 septembre 2016 à 14:26

algopolitique-outils

Nous sommes entrés dans une nouvelle ère qui ne se nomme pas. Cette ère est caractérisée par plusieurs phénomènes liés, dont le principal est celui de l’émergence des IA, les intelligences artificielles. Le terme « intelligence » est contestable, puisque les caractéristiques des algorithmes de deep/machine learning et de data mining ne sont pas celles propres à l’intelligence humaine. Les algorithmes ne pensent pas, ni ne ressentent, comme peut le faire un être humain, et pourtant ils exercent des tâches qui se rattachent à celle qu’une intelligence très spécialisée peut exécuter. La principale est celle de chercher des informations, les trier et les comparer. Cette capacité n’est pas en tant que telle une « nouveauté » en informatique, mais de nouvelles fonctions sont venues l’améliorer, afin de l’amener vers ce qui est nommé aujourd’hui IA.

La principale capacité de ces algorithmes est celle de l’auto-apprentissage. Apprendre à apprendre, générer de nouvelles portions de code améliorant les fonctions, prenant en compte les nouvelles données traitées : les algorithmes de deep learning savent « improviser », modifier leurs « comportements », changer leur manière de procéder au fur et à mesure de leur exploitation. Comme peut le faire un enfant confronté à la découverte du monde, au développement de ses propres capacités motrices ou neurologiques. L’exemple de l’algorithme de jeu de go qui a surpris ses propres créateurs — par ses coups parfois très inattendus — est un exemple parlant de ces IA actuelles. L’intelligence de l’IA à été supérieure à celle de l’homme, puisque le champion coréen a perdu contre la machine.

Cette avancée technologique des IA n’aurait pas été possible sans l’évolution massive de plusieurs facteurs. Le premier est bien entendu la puissance de calcul, puis la baisse des coûts de production des composants informatiques, et enfin, l’explosion des big data. Ce dernier point est très important, puisque pour qu’un algorithme apprenne, il lui faut le plus grand terrain de jeu possible qui soit, et donc avoir le plus de données possibles à traiter. Insérer des jeux de données manuellement dans un système de deep learning trouve vite sa limite, alors que les trillards de big data d’Internet sont une « nourriture » infinie pour les algorithmes « apprenants ».

Tous ces phénomènes cumulés ont donc permis l’émergence de nouvelles applications de plus en plus performantes, laissant entrevoir une forme de science de la méta-statistique, avec tout ce qu’elle peut contenir de fascinant. S’il est possible de faire traiter des milliards de données à des vitesses magistrales par des machines capables d’exploiter la moindre anomalie ou reconnaissance de forme récurente au sein de celles-ci, une possibilité de prédiction, voir de « précognition », une vision claire et d’avenir — au milieu du chaos apparent — peut émerger. C’est ainsi que l’algopolitique est devenu le centre de commandes des sociétés modernes. Naturellement, et sans débat.

Applications concrètes

L’algopolitique est une gestion politique de la société grâce à des algorithmes apprenants, traitant des mégadonnées — la plupart du temps — mais aussi des très grands jeux de données ciblés. Sa fonction première est d’offrir aux décideurs, quels qu’ils soient (économiques, politiques, militaires, sécuritaires), des cibles, des statistiques, des prédictions et des aides précises à la prise de décision. L’algopolitique trouve déjà des applications concrètes au plus niveau de la société, auprès du gouvernement et de certains de ses services administratifs. D’autres applications sont en cours de développement ou bien de nouvelles encore dans des tiroirs. Elles émergeront au fur et à mesure des besoins et des possibilités, sachant que rien ni personne ne vient réguler — ou ne serait-ce que discuter — ces procédés. En réalité, chaque pan de fonctionnement de la société, chaque secteur d’activité peut être traité par l’algopolitique. Les premiers pas avec ces outils ont été faits dans la chasse aux « fraudeurs » : allocataires des minima sociaux, de l’indemnisation chômage, de l’aide au logement, de l’aide familiale, etc. Un article sur Reflets s’en faisait écho il y a peu.

Les autres applications de l’algopolitique déjà en place, se situent au niveau de la lutte contre la criminalité, de la sécurité et du renseignement.

En 2015, le Teralab de l’Institut Mines-Telecom (l’école d’ingénieurs) a proposé un projet de de prédiction de la criminalité : Horizon/Anticrime. Le document (publié par notre confrère de Mediapart, Jérôme Hourdeaux) établit de façon très simple et claire le fonctionnement de ce type d’outils à destination du SCRC (Service central de renseignement criminel) :

View this document on Scribd

Ces systèmes sont des modèles prédictifs. Ils offrent par exemple aux forces de l’ordre des statistiques sur la fréquence, la possibilité et les localisation de futurs actes criminels. Mais ils peuvent aussi créer des profils de criminels potentiels ou futurs.

Les machines de deep learning à la solde de l’algopolitique aspirent les existences humaines. Tout ce qui peut caractériser un individu, un groupe d’individus, des fonctionnements d’individus doit être accessible aux machines. Du détail physique, vestimentaire, mode de déplacement, lectures, achats, préférences sexuelles, mode de vie, capacité financière : tout peut être connu et discriminé par les machines, et l’est déjà par celles au service de Facebook, Google, Amazon. Ces trois méta-entreprises génèrent leur cash quasiment uniquement grâce au machine learning et au deep mining. Le projet « Anticrime » du Teralab pour le SCRC ne s’en cache d’ailleurs pas, puisqu’au delà des données en « sources ouvertes » , ce sont des données « non structurées » comme celles des utilisateurs des réseaux sociaux qui doivent être utilisées :

extrait2-teralab

En France, les outils de l’algopolitique ne sont pas encore bien connus. L’Etat français ne montre qu’une partie immergée de l’iceberg, celle qui peut lui apporter les faveurs de l’opinion : lutte contre la criminalité, le terrorisme, la fraude (sociale). Pour autant, et malgré les insistances de certains observateurs spécialistes de la surveillance d’Internet, il est très difficile d’imaginer l’Etat français se contentant de faire uniquement des demandes judiciaires en bonne due et forme pour intercepter une partie du trafic des métadonnées (ou des contenus des paquets IP) sur le territoire national. D’autre part, jusqu’à quel point l’Etat peut-il se permettre de faire traiter par des machines à des fins répressives, de contrôle, ou de surveillance, les échanges des citoyens sur Internet ?

Les Etats et le contrôle social

Les documents révélés pas Edward Snowden ont mis le monde occidental devant un fait accompli : un État déclaré démocratique, garant des libertés individuelles se permet en toute illégalité, dans le plus grand secret, de mettre en place des systèmes d’interceptions de données / d’accès à des données privées à grande échelle hors de ses frontière et au sein de ses frontières et de les traiter. Ce pays, les Etats-Unis d’Amérique, travaille avec des partenaires, qui eux aussi participent à celle collecte d’information : Canada, Royaume-Uni, Nouvelle Zélande, Australie (Five eyes). Il a été démontré (toujours par les documents Snowden) que ces Etats développaient toute une panoplie d’outils informatiques de piratage, les mêmes que ceux utilisés par les criminels, voire souvent plus performants et donc plus dangereux. Ces révélations ont permis de comprendre que la légalité n’était en aucune manière une garantie face aux systèmes numériques d’interceptions et de traitement de données des populations. Ce qui permet d’affirmer que l’algopolitique à deux qualités centrales pour ceux qui la mettent en œuvre : l’invisibilité et le silence. L’Etat n’a pas à rendre de comptes sur les outils numériques qu’il met en place dans le cadre de la « gestion nationale », et peut le faire sans que cela ne se voit ni s’entende. Et ce qui ne se voit pas et ne s’entend pas… n’existe pas. Par contre, ces outils ont de nombreux intérêts pour les gouvernants.

Un article d’internetactu citant le philosophe et chercheur Matteo Pasquinelli amène la réflexion sur l’algopolitique au niveau du contrôle social et de la gouvernance :

Le but de ces algorithmes est de révéler un « nouveau sujet politique » : l’oeil des algorithmes tente désormais de distinguer l’individu « antisocial » de l’ensemble des individus, à l’image des travailleurs dont la productivité est mesurée par l’oeil des algorithmes comme le soulignait les travaux du groupe de recherche européen Forensic Architecture, qui dénonce les violences du développement de systèmes de contrôle sous forme de systèmes, d’ « architectures », véritables pathologies du monde moderne.

Ces méthodes de détection ou de prédiction sont déjà en place dans les politiques des entreprises, que ce soit pour les recrutements ou « l’optimisation » des employés (internetactu, l’emploi à l’épreuve des algorithmes) :

L’analyse des e-mails, des messageries instantanées, des appels téléphoniques, du moindre clic de souris des employés peut désormais être mise au service d’une plus grande efficacité de l’entreprise. Les données produites par les travailleurs sont en passe de devenir un atout précieux.

Des outils d’algopolitique pour tout, pour tous, partout

Le but de l’algopolitique n’est pas « la surveillance ». La « surveillance » est un mot-valise qui noie le problème de fond de la nouvelle ère qui s’est ouverte et qui est celle du renseignement de l’activité et de sa modélisation, ce qui implique d’ailleurs le remplacement de l’identité par l’activité. Cette nouvelle ère — qui n’est pas celle de la surveillance en tant que telle — est celle, avant tout de la prédiction, basée sur l‘automatisation du traitement des activités. De manière simple, quand un spécialiste de la surveillance sur Internet (@manhack) s’évertue à expliquer nuit et jour qu’il n’y a pas de « surveillance de masse », et affirme que les gens se trompent en disant « je suis sur écoute », il a raison. Mais il se trompe totalement en croyant avoir résolu la problématique en cours qui est la gestion algorithmique des populations, la mise en œuvre d’outils de plus en plus performants pour établir des modèles globaux et prédictifs.

<script async src="//platform.twitter.com/widgets.js" charset="utf-8">
Voir la mise en place de sondes d’interception des communications internet comme une manière de surveiller « toute la population » est absurde. Penser que « la surveillance » des personnes est le seul phénomène à analyser  — dans le cadre des interceptions de communication — l’est tout autant.

Pour organiser une véritable algopolitique digne de ce nom, il est nécessaire de pouvoir traiter un grand nombre de données, mais ciblées, et pas de manière « massive » (dans le temps, l’espace et la quantité). Il n’ y a aucune nécessité à intercepter tout le trafic du pays en permanence pour parvenir à mettre en place des outils performants d’algopolitique. Mais il doit être possible de donner à « manger » aux algorithmes les bonnes bigdata spécifiques en fonction du modèle spécialisé que l’on veut générer.

Ce que veut faire l’algopolitique de façon générale, n’est pas la surveillance de masse des populations. Ce que veut faire l’algopolitique peut être résumé par : « l’aide aux décisions grâce au traitement automatisés des mégadonnées offrant des modèles prédictifs, s’appuyant sur les procédés de machine/deep learning et data mining. »

Qu’il soit nécessaire de capturer n’importe quel trafic est bien entendu nécessaire, et les sondes formant les Interceptions Obligatoire Légales ( IOL : elles ne sont pas légales, puisque mises en place en secret sous la présidence de Nicolas Sarkozy, sans aval des institutions) sont là pour appuyer concrètement cette affirmation. Des entreprises privées ont répondu aux demandes gouvernementales pour installer ces systèmes, et des appels d’offre sont en cours pour permettre de continuer à traiter des données afin de créer les modèles prédictifs spécialisés qui constituent le cœur de la gouvernance algopolitique. La dernière annonce du ministère de l’Education nationale n’est qu’une toute petite démonstration — faite avant toute chose — pour habituer la population à « faire avec » la gestion algorithmique administrative.

Question : tout cet attirail technologique formant l’algopolitique, bafoue-t-il allégrement la constitution française sur le droit à la vie privée, puisque l’algopolitique est par essence forcée d’utiliser les données des citoyens (cf le projet du Teralab de Mines-Telecom) qu’elles soient constituées de métadonnées, ou du contenu de paquets IP, ou seulement issues de publications sur le réseau ? Il serait temps de se poser la question avec l’aide de juristes et de constitutionnalistes…

A terme, ce sont de toute manière tous les pans de la société qui doivent être touchés si rien n’est fait : de la santé, aux transports, en passant par l’emploi, l’accès à l’information, l’alimentation, les conflits sociaux, le traitement de la délinquance, ou encore celle des addictions. Le but recherché de l’algopolitique est le contrôle par anticipation.

Au point d’assassiner une personne qui n’a pas encore commis de crime mais serait algorithmiquement détectée comme supposée le faire ?

On peut l’imaginer, puisque c’est ce que réalisent déjà les USA avec leur assassinats ciblés contre des terroristes supposés agir… dans le futur (http://www.forensic-architecture.org/theme/predictive-forensics/)

screen-shot-crime-prediction

Error happened! 0 - Call to undefined function simplexml_load_string() In: /var/www/Projet-Autoblog/autoblogs/autoblog.php:364 http://www.couturat.fr/Projet-Autoblog/autoblogs/refletsinfo_1cad54e4a83836c98f56571ea82451cbd7d3d887/?Le-nouvel-%C3%A2ge-de-l-algopolitique-et-ses-outils #0 /var/www/Projet-Autoblog/autoblogs/autoblog.php(932): VroumVroum_Blog->update() #1 /var/www/Projet-Autoblog/autoblogs/refletsinfo_1cad54e4a83836c98f56571ea82451cbd7d3d887/index.php(1): require_once('/var/www/Projet...') #2 {main}