Accueil > Non classé > La fabrique des automates politiques

La fabrique des automates politiques

24 novembre 2013

Le livre de Grégoire Chamayou, Théorie du drone, est passionnant pour son implacable analyse du drone armé et de la façon dont cet « instrument d’homicide mécanisé » transforme la conduite de la guerre. Car derrière la fabrique des « robots léthaux autonomes », cette chasse à l’homme moderne, on peut comprendre les transformations qu’induisent la fabrique des automates de notre monde moderne. [1]

La police des schémas : l’activité, alternative à l’identité
Grégoire Chamayou ouvre son livre par des extraits d’échanges entre pilotes de drones. Des gens tentant de raisonner, de rassembler des éléments d’analyses devant des images floues, illisibles, pour savoir si les formes qu’ils aperçoivent sur leurs écrans « méritent » d’être éliminées. En fait, nous sommes dans une bataille comme une autre, où les coups et les tirs pleuvent. Même derrière des écrans, même à des milliers de kilomètres des lieux de combats, la guerre reste la guerre.

La guerre n’est plus un duel, mais une chasse à l’homme, une campagne sans fin d’exécutions extrajudiciaires qui se font en dehors du droit de guerre.

L’essentiel des frappes ne visent pas des personnalités nommément identifiées, mais avant tout des « signatures », c’est-à-dire des individus dont l’identité demeure inconnue, mais dont le comportement laisse supposer, signale ou signe une appartenance à une organisation terroriste ou le port d’armes. L’armée se base sur les agissements, sur une « analyse des formes de vie » (pattern of life analysis), sur l’étude des modèles, des motifs, l’identification des schémas aberrants.

Toute anomie, toute irrégularité dans notre comportement signale une menace, déclenche une alerte. Et, au-delà du drone, c’est bien cela qui est enjeu dans l’analyse du monde, de nos réseaux de relations, de nos comportements que promet l’analyse des grandes masses de données régies par les algorithmes, dont le drone est une forme d’instanciation. Comme le précise Grégoire Chamayou dans une interview pour Libération : « Votre mode de vie nous dit qu’il y a, mettons, 90% de chance que vous soyez un militant hostile, donc nous avons le droit de vous tuer. Mais là, on glisse dangereusement de la catégorie de combattants, à celle, très élastique, de militants présumés. » Comme le souligne encore l’auteur, l’ennemi n’est plus le maillon d’une chaîne de commandement, mais un noeud, inséré dans des réseaux sociaux.

Le problème est que cette activité produit des images aussi floues que l’oeil surpuissant des drones. « Vu du ciel, rien ne ressemble plus à une réunion de militants qu’une réunion de village. » Dans les corrélations dont nous sommes l’objet, nous sommes réduits à des produits de données, des profils imparfaits, un assemblage d’indices concordants « suffisamment bons » (good enough) pour déclencher une réponse… ou plus précisément ici, une destruction. Mais sont-ils « suffisamment bons » ?

Comment pouvons-nous alors accepter que notre appartenance, notre identité soient induites de modèles très imparfaits ? C’est pourtant bien que ce proposent les corrélations issues des Big Data dont nous sommes l’objet. Une très imparfaite police de nos activités, une surveillance sociale instruite par des machines, déclenchant des réponses automatisées, dont celle des drones n’est que la plus radicale.

En fait, le problème n’est pas l’imperfection de la surveillance de nos activités. Le problème n’est pas l’amélioration des algorithmes, des images, des modèles prédictifs, de l’identification des schémas… permettant d’atteindre et cibler des personnes d’une façon toujours plus « juste », plus « fine », plus « exacte « , plus « précise »… Le problème repose avant tout sur l’objet de ces surveillances. Dans le glissement insidieux des opérations de guerre à des opérations de police extrajudiciaire, ce ne sont plus nos identités qui sont en cause, mais nos activités. Qu’importe si la corrélation remplace la causalité. Les erreurs commises par les frappes probabilistes sont silencieuses, tout comme ceux qui demain seront discriminés par les algorithmes dans leurs emplois par exemple – toute proportion gardée. A l’heure des drones, nous sommes nous-mêmes la cause de notre mort : ce sont les mouvements inappropriés de nos corps, les traces de nos activités qui enclenchent le mécanisme automatique de notre propre discrimination, de notre propre élimination.

Qui promeut l’automatisation du monde ?
 » Dans ce mode de domination, qui procède par la conversion de ses ordres en programmes et de ses agents en automates, le pouvoir, de distant qu’il était, se rend insaisissable. »

Où est le sujet du pouvoir ? interroge Grégoire Chamayou. « Il est précisément partout où il travaille très activement à se faire oublier ». Et le philosophe de dresser la carte de la manière dont le pouvoir justifie sa transformation, en requalifiant, recatégorisant les activités à la lumière des évolutions technologiques.
Chamayou souligne que présenter le processus d’automatisation du monde comme étant lui-même automatique, inéluctable, masque que ce processus à des agents actifs qui le promeuvent. Et d’évoquer l’histoire, la genèse des outils et de leur justification théorique et technique pour expliquer comment se met en place « un dispositif typique de fabrique de l’irresponsabilité ». Comment la lâcheté de la non-présence au combat se transforme progressivement en justification humanitaire, faisant passer l’homicide mécanisé et unilatéral en machines qui « tuent humainement »…

« Plus se répand la légende du robot éthique, plus cèdent les barrières morales au déploiement du robot tueur »
Chamayou nous invite à réfléchir à qui construit ce monde ? Qui construit la « la décision sur les paramètres de décision » ? Qui fixe la valeur des spécifications des programmes qui commandent aux drones ? La technologie a tendance à faire glisser l’applicabilité du droit dans nos outils, nous désistant de la fabrique de la loi, mais également de la justice des hommes.

Des outils pour déplacer l’applicabilité du droit
 » Du point de vue de la philosophie du droit, on peut assez vite en repérer deux [problèmes] très importants – en réalité, rédhibitoires.

Premièrement : doter des agents machiniques du droit de tuer dont jouissent entre eux les combattants à la guerre équivaudrait à mettre l’homicide sur le même plan que la destruction d’une pure chose matérielle, ce qui constituerait assurément une négation radicale de la dignité humaine. »

Comment retrouver dans les lignes de codes, la responsabilité d’un sujet en fuite ? Pour Chamayou la crise des catégories juridiques que pose la fusion de l’arme et du combattant induit une crise radicale de l’applicabilité du droit. Cette question des nouvelles formes de responsabilité ne concerne pas que le drone, elle concerne tous les outils technologiques capables de prendre des décisions à partir de données, comme la voiture autonome, les lunettes de réalité augmentée de Google, les échanges à très haute fréquence sur les machés financiers ou les fusils autonomes… Dans cette fabrique de l’irresponsabilité, ce qui est en jeu, « c’est le mode d’implémentation de la norme juridique » et de la norme sociale, une implémentation qui pose d’autant plus de questions que la technologie elle-même n’a cessé justement de perturber les catégorisations du droit et de la société.

Ce qui est en question dans ces machines est bien de mettre à mal la responsabilité individuelle… Et derrière elle, ce qui est en question, c’est le fondement même de notre justice. « La loi promettant de devenir machine, la justice humaine peut bien périr ». Et c’est exactement ce qui se passe avec les drones et les questions qui se bousculent autour de la légalité des frappes américaines. La guerre contre le terrorisme ressemble à un programme d’assassinat d’Etat extralégal. Avec le drone, nous entrons dans une nouvelle forme de violence étatique, estime avec raison Grégoire Chamayou, qui ressemble plus à l’opération de police qu’à la guerre. Et le problème est que ces opérations de police ne sont plus délimitées ni par le droit, ni par la justice. « Prise dans une spirale sans fin, la stratégie d’éradication est paradoxalement vouée à ne jamais éradiquer. » Bienvenue dans la guerre perpétuelle, sans bornes, ni dans le temps, ni dans l’espace. L’analyse politique se dissout « dans les catégories de l’entendement policier ».

Comme l’optimisation fiscale ou les échanges à haute fréquence, les technologies s’immiscent dans les failles du droit et modifient non seulement le droit, mais la façon dont la justice s’établit.
« Le crime le plus substantiel ne réside pas dans une transgression ouverte de la loi, mais dans les replis de son application souveraine. »

Qu’est-ce que l’Etat à l’heure de la police des schémas ?
La police des activités semble la première étape à l’instauration de la police de la pensée, chère à Georges Orwell. Nous entrons dans une chasse à l’homme préventive, où il s’agit moins de répondre à des attaques déterminées que de prévenir l’éclosion de menaces émergentes… Les automates politiques basés sur les Big Data et les algorithmes imparfaits sont appelés à policer nos sociétés, malgré leurs imperfections et leurs failles.

Nous entrons dans l’ère des panoptiques volants et armés, comme le soulignait les témoignages du rapport « Vivre dans la peur des drones », « un enfermement psychique dont le périmètre n’est plus défini par des grilles, des barrières ou des murs, mais par les cercles invisibles que tracent au-dessus des têtes les tournoiements sans fin de miradors volants ».

Mais ce ne sont pas que les drones qui sont en question à nouveau. Pensons à la vidéosurveillance qui, malgré ses imperfections comme le soulignent tous les rapports écrits sur ce sujet, n’empêche pas les tenants de la sécurité de proposer d’élargir leur utilisation pour réprimer des infractions punies par contravention : dépôt d’ordures sur la voie publique, stationnement gênant ou interdit, etc. L’enregistrement par caméra (si elle parvient à vous identifier) suffira à verbaliser… L’enjeu, ici comme ailleurs, est bien celui de l’autonomisation matérielle et politique de l’appareil d’Etat, de sa police qui, comme la CIA, s’affranchit de plus en plus des limites du droit en s’autorisant un espionnage sans entrave, sans mandats.

Nos technologies ne doivent pas transformer nos appareils d’Etat en appareil, nous recommande Grégoire Chamayou. Les technologies transforment les rapports de pouvoir, mais nous ne pouvons pas laisser des solutions technologiques résoudre nos problèmes politiques. Quelles limites devons-nous ériger à l’analyse de la criminalisation de nos comportements ? Quelle limite imposer au bras – armé ou pas – des Etats quand l’analyse de nos comportements devient sans limites ?

[1] Hubert Guillaud, Le Monde Blogs, Internet Actu, 31.05.13

Georges Vignaux

Publicités
Catégories :Non classé
%d blogueurs aiment cette page :