El muro sangra óxido. Si lo tocas, el óxido manchará tu mano por el resto del día. Excepto por la parte negra, pintada para absorber el sol y volverse caliente al tacto. Más difícil de escalar de esta manera. Una estructura imponente que se extiende a lo largo de El Camino del Diablo, este muro atraviesa el desierto de Sonora, marcando la frontera actual entre Estados Unidos y México. Pero también oculta una frontera diferente, en gran parte invisible a la vista. Una red de vigilancia que ha cobrado miles de vidas.
The Walls Have Eyes: Surviving Migration in the Age of Artificial Intelligence es una historia global—una visión distópica convertida en realidad, donde tu cuerpo es tu pasaporte y las decisiones de vida o muerte las toma un algoritmo.
El libro sostiene que cada vez más personas quedan atrapadas en el punto de mira de un conjunto de tecnologías no reguladas y perjudiciales, promovidas para controlar las fronteras y “gestionar la migración.”
La tecnología en la frontera está siendo desplegada por los gobiernos contra las personas más marginadas del mundo con poca regulación. Las fronteras son ahora un gran negocio, con contratistas de defensa y startups tecnológicas compitiendo por capturar este mercado altamente rentable.
Un laboratorio de alto riesgo para la experimentación
The Walls Have Eyes se basa en 6 años de investigación a través de las fronteras del mundo. Desde Estados Unidos/México, Grecia, Kenia, Polonia y Palestina, el racismo, la tecnología y las fronteras crean una intersección cruel.
Al recopilar evidencias y destacar las experiencias de las personas en movimiento atrapadas en los bordes más afilados de la innovación, el libro argumenta que cada vez más personas están quedando atrapadas en el punto de mira de un conjunto de tecnologías no reguladas y perjudiciales, promovidas para controlar las fronteras y “gestionar la migración,” fortaleciendo una industria multimillonaria.
Desde el uso de redes sociales hasta biometría en campos de refugiados, drones en la frontera e incluso perros robot recientemente introducidos por el Departamento de Seguridad Nacional, hasta algoritmos que deciden quién deportar y quién permitir entrar, las tecnologías ahora aumentan todos los aspectos del movimiento humano en el planeta. Muchos de estos proyectos dependen cada vez más de la automatización, ya sea mediante la toma de decisiones algorítmica o la inteligencia artificial, para aumentar o reemplazar a los oficiales humanos.
Aunque hoy en día diversas innovaciones tecnológicas nos rodean, la automatización y la robótica han existido durante mucho tiempo. Ismail al-Jazari, el inventor musulmán de Anatolia (actual Turquía), a quien algunos llaman el “padre de la robótica,” comenzó a documentar sus diversas invenciones a finales del siglo XII.
Read More
¿Qué sentiría al saber que su trabajo ha dado lugar a perros robot y drones utilizados para cazar personas que escapan de la persecución en Oriente Medio? Desde la época de al-Jazari, y en particular en las últimas décadas después del 11 de septiembre, ha habido una proliferación de tecnologías automatizadas cada vez más utilizadas para gestionar la migración, controlar las fronteras y excluir a los llamados ‘Otros’ no deseados.
Quienes las desarrollan suelen presentar las tecnologías como neutrales, pero estas son siempre construcciones sociales. Todas las tecnologías tienen una dimensión política inherente, ya sea, por ejemplo, sobre quién cuenta y por qué, y replican sesgos que ponen en riesgo a ciertas comunidades. En un mundo cada vez más dividido, resulta esencial prestar atención a dónde se acumula el poder en lo que respecta al desarrollo y uso de la tecnología.
Exportación de tecnología “probada en batalla”
La tecnología viaja. Puede desarrollarse en una jurisdicción, exportarse a una segunda y reutilizarse en una tercera. En la creciente militarización de la frontera, las aplicaciones de defensa y militares se utilizan cada vez más en las fronteras. Israel está en el centro de gran parte de la tecnología de vigilancia del mundo.
El periodista Antony Loewenstein escribe en su libro The Palestine Laboratory: How Israel Exports the Technology of Occupation Around the World que Israel es uno de los principales actores en la vigilancia fronteriza y el spyware, tecnología que primero se normaliza y prueba en los palestinos y luego se vende al resto del mundo. Por ejemplo, las torres de Elbit Systems de Israel están dispersas por el desierto de Sonora, mientras que los drones Heron utilizados por la fuerza fronteriza de la UE, Frontex, patrullan el mar Mediterráneo.
La inteligencia artificial también se utiliza en la guerra, con tecnologías como Lavender y Gospel, que alimentan un genocidio facilitado por la tecnología en la Franja de Gaza para decidir quién vive y quién muere. El 14 de noviembre de 2024, el Comité Especial de la ONU para investigar las prácticas israelíes determinó que los métodos de guerra de Israel en Gaza son consistentes con un genocidio, planteando serias preocupaciones sobre el uso de sistemas de targeting mejorados con IA:
“El uso por parte del ejército israelí de objetivos asistidos por IA, con una supervisión humana mínima, combinado con bombas pesadas, subraya el desprecio de Israel por su obligación de distinguir entre civiles y combatientes y de tomar las medidas adecuadas para evitar muertes civiles.”
La teoría de “necropolítica” de Achille Mbembe viene a la mente, tanto a través de la instrumentalización de la tecnología por parte de Israel en la guerra, como en la expansión de la red carcelaria y fronteriza que ha cobrado miles de vidas, tanto en la frontera entre Estados Unidos y México como en los márgenes de Europa. 2024 fue considerado el año más mortal registrado para las personas en movimiento, según la Organización Internacional para las Migraciones (OIM).
La necropolítica se puede definir como una forma de exclusión racial basada en la gestión de los cuerpos y, de hecho, de las propias vidas de poblaciones consideradas indeseables o menos que humanas. A través de estas prácticas estatales basadas en siglos de lógicas coloniales e imperiales, ciertas muertes se vuelven no solo tolerables, sino inevitables, ahora mediante decisiones cada vez más automatizadas que dictan quién sobrevive y quién debe ser dejado a morir.
Y aunque los Estados promueven la vigilancia y las nuevas tecnologías como un disuasivo eficaz para prevenir la migración, las estadísticas no lo respaldan. Las personas en situaciones desesperadas no dejan de venir debido a la vigilancia. En cambio, se ven obligadas a tomar rutas más peligrosas por terrenos deshabitados, lo que lleva, por ejemplo, a un incremento exponencial de muertes en la frontera entre Estados Unidos y México desde la introducción de tecnologías de frontera inteligente.
Muévete rápido y rompe cosas
Los Estados no son el único actor al que prestar atención. En el creciente y lucrativo complejo industrial fronterizo, valorado en miles de millones de dólares, es el sector privado el que marca lo que se considera una ‘solución’ al ‘problema’ de la migración.
Desde grandes empresas como Palantir y Anduril hasta actores más pequeños que desarrollan drones con tasers para probarse en la frontera, el sector privado tiene un enorme poder normativo. Por eso gran parte de la innovación en migración se centra en perros robot y detectores de mentiras basados en IA en la frontera, en lugar de usar IA para identificar guardias fronterizos racistas o auditar decisiones migratorias injustas, mientras contratistas de defensa y startups tecnológicas compiten por capturar este mercado altamente rentable.
The Walls Have Eyes finalmente pone en primer plano historias personales.
Además, actualmente existe muy poca regulación para regular la inteligencia artificial en general y las tecnologías fronterizas en particular. Incluso esfuerzos tan esperados como el Reglamento de la UE para Regular la Inteligencia Artificial, ratificado en agosto de 2024, no van lo suficientemente lejos para salvaguardar los derechos de las personas en movimiento.
Y las violaciones de derechos son muchas. Además de la erosión del derecho a la vida, la libertad y la seguridad de la persona, cuando las personas mueren en las fronteras para evitar la vigilancia o son colocadas en detención migratoria debido a un algoritmo, los derechos a la privacidad sobre los datos personales sensibles de los refugiados, así como la igualdad y la libertad frente a la discriminación de la IA en la frontera, son solo algunos de los derechos fundamentales que estas tecnologías experimentales violan.
Sin mencionar que evitar tecnológicamente que las personas busquen seguridad infringe el derecho global al asilo, un derecho internacionalmente protegido garantizado por la Convención de Refugiados de 1951 y sus protocolos complementarios, así como el principio fundamental de no devolución, que garantiza que una persona no será forzada a regresar a un lugar de persecución.
Sin embargo, los espacios fronterizos continúan sirviendo como campos de pruebas viables para estas nuevas tecnologías precisamente porque son lugares donde la regulación ya es deliberadamente limitada y donde una actitud de frontera de “todo vale” informa el desarrollo y la implementación de la vigilancia a expensas de las vidas humanas.
El poder de contar historias como un acto de resistencia
Aunque se basa en 6 años de investigación y entrevistas de campo con cientos de personas en movimiento, además de estar sustentado por teorías, The Walls Have Eyes pone en primer plano historias personales. Cada capítulo está enmarcado por viñetas etnográficas, perfilando a personas como Mariam Jamal, una activista de derechos digitales en Kenia, o Little Nasr, un adolescente con escoliosis atrapado en un bosque griego.
La última palabra del libro es de Zaid Ibrahim, un refugiado sirio que sobrevivió múltiples devoluciones forzadas en la frontera entre Grecia y Turquía y años en el precario campo de refugiados de Ritsona antes de escapar a Alemania para reunirse con su familia. Recopilado y traducido a través de mensajes de WhatsApp, en un libro que intenta destacar lo que está en juego en los experimentos tecnológicos en la frontera, la última palabra debe ser de alguien como Zaid.
El compromiso con la narración y el intercambio de historias, por supuesto, no está exento de desafíos. Con cada conversación y relación creciente, los temas de ser testigo, extraer y capturar se volvieron más complejos al lidiar con la mejor manera de transmitir las atrocidades que continúan ocurriendo cerca de las costas y fronteras de todo el mundo, sin convertirme en parte de la maquinaria de vigilancia explotadora. Sin embargo, al infundir este libro con tantas experiencias vividas de las personas afectadas, The Walls Have Eyes intenta iluminar los campos de pruebas de estas tecnologías peligrosas y llevarlas del ámbito abstracto al real.
Para contar esta historia global de poder, violencia y tecnología, The Walls Have Eyes se apoya en una mezcla, a veces incómoda, de derecho y antropología. Es una metodología etnográfica lenta e informada por el trauma, que requiere años de presencia para comenzar a desentrañar los hilos de poder y privilegio, historia y memoria, a través de los cuales se desarrollan las vidas de las personas.
El mayor impacto recae en comunidades tradicionalmente marginadas, como los refugiados y solicitantes de asilo.
A veces, una entrevista no era siquiera una entrevista; más bien, era compartir una comida juntos en el suelo de un contenedor dentro de un campo de refugiados, o un paseo silencioso a lo largo de la orilla del mar. Esta práctica no produce conocimientos inmediatos, y de hecho, los investigadores a menudo enfrentan escrutinio sobre la eficacia y precisión de nuestros métodos, o incluso sobre la validez de lo que estamos haciendo durante períodos tan largos con visitas repetidas. Pero es precisamente a través de este desentrañamiento lento que los verdaderos impactos de las fronteras salen a la luz.
Además, en la era del ecocidio y la creciente migración ambiental, todos nosotros podemos, de una forma u otra, ser afectados por tecnologías de gestión migratoria al cruzar fronteras y movernos por el mundo. La vigilancia se está expandiendo y la responsabilidad sobre los errores graves se está diluyendo. En cierto sentido, el abuso de la tecnología nos iguala, alentándonos a alejarnos de los binarios rígidos entre “migrantes” y todos los demás.
Si bien los detectores de mentiras basados en IA pueden parecer una característica de un proyecto distópico en algún lugar lejano del futuro, las empresas privadas están ocupadas exhibiendo sus últimas invenciones, como hizo Converus en 2022 al promocionar su detector de mentiras EyeDetect ante la CIA. Y en la primavera de 2023, el Departamento de Policía de Nueva York anunció con orgullo en Instagram que volvería a desplegar perros robot para la aplicación de la ley.
Las predicciones sobre el comportamiento humano ya están impulsando diversos análisis para intervenciones fronterizas, pero ¿y si los análisis predictivos se usaran para negar seguros de salud? ¿Y si, con las degradaciones ambientales en curso que hacen que el planeta sea más inhabitable, estos análisis se usaran para dictar dónde se podría vivir y cómo se podría mantener a una familia?
El mayor impacto recae en comunidades tradicionalmente marginadas, como los refugiados y solicitantes de asilo. Sin embargo, con las promesas de la administración Trump entrante de deportar a millones con la ayuda de la vigilancia basada en IA, y el gobierno canadiense cediendo a estas presiones políticas al destinar $1.3 mil millones a tecnologías fronterizas, el ecosistema de tecnologías de gestión migratoria nos afecta a todos.
