Le mur saigne de la rouille. Si vous le touchez, la rouille tachera votre main pour le reste de la journée. Sauf pour la partie noire, peinte pour absorber le soleil et devenir chaude au toucher. Plus difficile à escalader ainsi. Une structure massive qui longe El Camino del Diablo, ce mur traverse le désert de Sonora, marquant la frontière actuelle entre les États-Unis et le Mexique. Mais il cache aussi une autre frontière, en grande partie invisible à l'œil. Un filet de surveillance qui a coûté la vie à des milliers de personnes.
The Walls Have Eyes: Surviving Migration in the Age of Artificial Intelligence est une histoire mondiale—une vision dystopique devenue réalité, où votre corps est votre passeport et des algorithmes décident de la vie ou de la mort.
Le livre affirme que de plus en plus de personnes se retrouvent prises dans la ligne de mire d’un ensemble de technologies non réglementées et nuisibles, promues pour contrôler les frontières et “gérer la migration.”
La technologie à la frontière est déployée par les gouvernements contre les populations les plus marginalisées au monde avec peu de régulation. Les frontières sont désormais une grande entreprise, avec des contractants de la défense et des startups technologiques se précipitant pour capturer ce marché hautement rentable.
Un laboratoire à haut risque pour l’expérimentation
The Walls Have Eyes repose sur 6 ans de recherche à travers les frontières du monde. Des États-Unis/Mexique, à la Grèce, au Kenya, à la Pologne et à la Palestine, le racisme, la technologie et les frontières créent une intersection cruelle.
En recueillant des preuves et en mettant en avant les expériences des personnes en mouvement prises dans les marges les plus aiguisées de l’innovation, le livre affirme que de plus en plus de personnes se retrouvent dans la ligne de mire d’un ensemble de technologies non réglementées et nuisibles, présentées pour contrôler les frontières et “gérer la migration,” renforçant une industrie multimilliardaire.
Des réseaux sociaux aux données biométriques dans les camps de réfugiés, des drones à la frontière et même des chiens-robots récemment introduits par le Département de la Sécurité Intérieure, jusqu’aux algorithmes qui décident qui déporter et qui laisser entrer, les technologies augmentent désormais tous les aspects des mouvements humains sur la planète. Beaucoup de ces projets reposent de plus en plus sur l’automatisation, que ce soit par la prise de décision algorithmique ou l’intelligence artificielle, pour compléter ou remplacer les agents humains.
Bien que de nombreuses innovations technologiques tourbillonnent autour de nous aujourd’hui, l’automatisation et la robotique existent depuis longtemps. Ismail al-Jazari, l’inventeur musulman d’Anatolie (actuelle Turquie), que certains appellent le “père de la robotique,” a commencé à documenter ses diverses inventions à la fin du XIIe siècle.
Que ressentirait-il en apprenant que son travail a donné naissance à des chiens-robots et des drones utilisés pour traquer des personnes fuyant la persécution au Moyen-Orient ? Depuis l’époque d’al-Jazari, et en particulier au cours des dernières décennies après le 11 septembre, il y a eu une prolifération de technologies automatisées de plus en plus utilisées pour gérer la migration, contrôler les frontières et exclure les soi-disant ‘Autres’ indésirables.
Ceux qui les développent présentent souvent les technologies comme étant neutres, mais elles sont toujours des constructions sociales. Toutes les technologies ont une dimension politique inhérente, qu’il s’agisse, par exemple, de savoir qui compte et pourquoi, et elles reproduisent des biais qui mettent certaines communautés en danger. Dans un monde de plus en plus divisé, il devient essentiel de prêter attention à l’accumulation du pouvoir en matière de développement et d’utilisation des technologies.
Exportation de technologies « testées au combat »
La technologie voyage. Elle peut être développée dans une juridiction, exportée vers une seconde, et réutilisée dans une troisième. Avec la militarisation croissante des frontières, les applications de défense et militaires sont de plus en plus utilisées aux frontières. Israël est au cœur de nombreuses technologies de surveillance dans le monde.
Le journaliste Antony Loewenstein écrit dans son livre The Palestine Laboratory: How Israel Exports the Technology of Occupation Around the World qu’Israël est l’un des principaux acteurs de la surveillance des frontières et des logiciels espions, des technologies d’abord normalisées et testées sur les Palestiniens avant d’être vendues au reste du monde. Par exemple, les tours Elbit Systems israéliennes sont disséminées dans le désert de Sonora, tandis que les drones Heron utilisés par Frontex, la force frontalière de l’UE, patrouillent la mer Méditerranée.
L’intelligence artificielle est également utilisée dans la guerre, avec des technologies comme Lavender et Gospel, qui alimentent un génocide facilité par la technologie dans la bande de Gaza pour décider qui vit et qui meurt. Le 14 novembre 2024, le Comité spécial des Nations unies pour enquêter sur les pratiques israéliennes a conclu que les méthodes de guerre d’Israël à Gaza sont compatibles avec un génocide, soulevant de graves préoccupations quant à l’utilisation de systèmes de ciblage améliorés par IA :
“L’utilisation par l’armée israélienne de cibles assistées par IA, avec une supervision humaine minimale, combinée à des bombes lourdes, souligne le mépris d’Israël pour son obligation de distinguer les civils des combattants et de prendre des mesures adéquates pour prévenir les morts civiles.”
La théorie de la « nécropolitique » d’Achille Mbembe vient à l’esprit, à la fois par l’armement de la technologie par Israël dans la guerre, mais aussi par l’expansion du réseau carcéral et frontalier qui a coûté des milliers de vies, tant à la frontière entre les États-Unis et le Mexique qu’aux marges de l’Europe. 2024 a été considéré comme l’année la plus meurtrière jamais enregistrée pour les personnes en mouvement, selon l’Organisation internationale pour les migrations (OIM).
La nécropolitique peut être définie comme une forme d’exclusion raciale reposant sur la gestion des corps et, en effet, des vies mêmes des populations jugées indésirables ou moins qu’humaines. À travers ces pratiques étatiques fondées sur des siècles de logiques coloniales et impériales, certaines morts deviennent non seulement acceptables, mais inévitables, désormais à travers des prises de décision de plus en plus automatisées qui dictent qui survit et qui doit être laissé pour mort.
Et bien que les États promeuvent la surveillance et les nouvelles technologies comme un moyen dissuasif efficace pour prévenir la migration, les statistiques ne le confirment pas. Les personnes en situation désespérée ne cessent pas de venir à cause de la surveillance. Elles sont plutôt contraintes d’emprunter des routes plus dangereuses à travers des terrains inhabités, ce qui conduit, par exemple, à une augmentation exponentielle des décès à la frontière entre les États-Unis et le Mexique depuis l’introduction des technologies de frontière intelligente.
Avancez vite et cassez tout
Les États ne sont pas les seuls acteurs à considérer. Dans le complexe industriel frontalier en pleine expansion et lucratif, évalué à des milliards de dollars, c’est le secteur privé qui établit ce qui est considéré comme une « solution » au « problème » de la migration.
Des grandes entreprises comme Palantir et Anduril aux acteurs plus modestes qui développent des drones équipés de tasers pour être testés à la frontière, le secteur privé possède un pouvoir normatif immense. C’est pourquoi une grande partie de l’innovation en matière de migration se concentre sur les chiens-robots et les détecteurs de mensonges basés sur l’IA aux frontières, plutôt que sur l’utilisation de l’IA pour identifier des gardes-frontières racistes ou auditer des décisions migratoires injustes, tandis que les entrepreneurs de la défense et les startups technologiques se précipitent pour capturer ce marché hautement lucratif.
The Walls Have Eyes met finalement en avant des histoires personnelles.
En outre, il existe actuellement très peu de régulation pour encadrer l’intelligence artificielle en général et les technologies frontalières en particulier. Même des initiatives très attendues comme le Règlement de l’UE pour encadrer l’intelligence artificielle, ratifié en août 2024, ne vont pas assez loin pour protéger les droits des personnes en mouvement.
Et les atteintes aux droits sont nombreuses. En plus de l’érosion du droit à la vie, à la liberté et à la sécurité de la personne, lorsque des personnes meurent aux frontières pour éviter la surveillance ou sont placées en détention pour migration en raison d’un algorithme, les droits à la vie privée sur les données personnelles sensibles des réfugiés, ainsi que l’égalité et la liberté face à la discrimination algorithmique aux frontières, sont quelques-uns des droits fondamentaux que ces technologies expérimentales violent.
Sans parler du fait qu’empêcher technologiquement les personnes de chercher refuge enfreint le droit mondial à l’asile, un droit protégé à l’échelle internationale garanti par la Convention de 1951 sur les réfugiés et ses protocoles complémentaires, ainsi que le principe fondamental de non-refoulement, qui garantit qu’une personne ne sera pas contrainte de retourner dans un lieu de persécution.
Cependant, les espaces frontaliers continuent de servir de terrains d’essai viables pour ces nouvelles technologies précisément parce qu’ils sont des lieux où la régulation est déjà volontairement limitée et où une attitude de « tout est permis » caractéristique des frontières guide le développement et le déploiement de la surveillance au détriment des vies humaines.
Le pouvoir de raconter des histoires comme un acte de résistance
Bien qu’il soit basé sur 6 ans de recherche et d’entretiens sur le terrain avec des centaines de personnes en mouvement, et appuyé par la théorie, The Walls Have Eyes met en avant des histoires personnelles. Chaque chapitre est encadré par des vignettes ethnographiques, présentant des personnes comme Mariam Jamal, une militante des droits numériques au Kenya, ou Little Nasr, un adolescent atteint de scoliose piégé dans une forêt grecque.
Le dernier mot du livre revient à Zaid Ibrahim, un réfugié syrien qui a survécu à de multiples renvois forcés à la frontière entre la Grèce et la Turquie et à des années dans le camp de réfugiés insalubre de Ritsona avant de s’échapper en Allemagne pour rejoindre sa famille. Collecté et traduit via des messages WhatsApp, dans un livre qui cherche à mettre en lumière les enjeux humains des expériences technologiques aux frontières, le dernier mot doit être celui de quelqu’un comme Zaid.
L’engagement envers la narration et le partage d’histoires n’est bien sûr pas sans défis. À chaque conversation et relation qui s’approfondit, les questions de témoignage, d’extraction et de capture deviennent plus complexes lorsqu’il s’agit de transmettre les atrocités qui continuent de se produire près des côtes et des frontières dans le monde entier, sans devenir moi-même une partie de la machine de surveillance exploitante. Cependant, en infusant ce livre avec autant d’expériences vécues par les personnes concernées, The Walls Have Eyes tente d’éclairer les terrains d’essai de ces technologies dangereuses et de les faire passer du domaine abstrait au domaine réel.
Pour raconter cette histoire mondiale de pouvoir, de violence et de technologie, The Walls Have Eyes s’appuie sur un mélange parfois inconfortable de droit et d’anthropologie. C’est une méthodologie ethnographique lente et éclairée par les traumatismes, qui nécessite des années de présence pour commencer à démêler les fils du pouvoir et du privilège, de l’histoire et de la mémoire, à travers lesquels les vies des gens se déroulent.
L’impact le plus grand est ressenti par les communautés traditionnellement marginalisées, comme les réfugiés et les demandeurs d’asile.
Parfois, un entretien n’était même pas un entretien ; c’était plutôt partager un repas ensemble sur le sol d’un conteneur dans un camp de réfugiés, ou une promenade silencieuse le long du rivage. Cette pratique ne fournit pas d’informations immédiates, et en effet, les chercheurs font souvent face à des critiques sur l’efficacité et la précision de nos méthodes, voire sur la validité de ce que nous faisons pendant de si longues périodes avec des visites répétées. Mais c’est précisément à travers ce décryptage lent que les véritables impacts des frontières se révèlent.
De plus, à l’ère de l’écocide et de la migration environnementale croissante, nous pouvons tous, d’une manière ou d’une autre, être affectés par les technologies de gestion de la migration lorsque nous traversons des frontières et nous déplaçons dans le monde. La surveillance se développe et la responsabilité des graves erreurs s’efface. En un sens, l’abus de la technologie est un égalisateur, nous encourageant à nous éloigner des binaires rigides entre « migrants » et tout le reste.
Bien que les détecteurs de mensonges basés sur l’IA puissent sembler une caractéristique d’un projet dystopique situé quelque part dans un avenir lointain, les entreprises privées sont occupées à présenter leurs dernières inventions, comme Converus l’a fait en 2022 lorsqu’elle a proposé son détecteur de mensonges EyeDetect à la CIA. Et au printemps 2023, le Département de police de New York a fièrement annoncé sur Instagram qu’il allait à nouveau déployer des chiens-robots pour le maintien de l’ordre.
Les prédictions sur le comportement humain alimentent déjà divers analyses pour des interventions frontalières, mais et si les analyses prédictives étaient utilisées pour refuser une assurance santé ? Et si, avec les dégradations environnementales en cours rendant la planète de plus en plus invivable, ces analyses étaient utilisées pour dicter où l’on pourrait vivre et comment subvenir aux besoins de sa famille ?
L’impact le plus grand est ressenti par les communautés traditionnellement marginalisées, comme les réfugiés et les demandeurs d’asile. Cependant, avec les promesses de l’administration Trump entrante de déporter des millions à l’aide de la surveillance basée sur l’IA, et le gouvernement canadien cédant à ces pressions politiques en allouant 1,3 milliard de dollars aux technologies frontalières, l’écosystème des technologies de gestion de la migration nous affecte tous.
