En la obra « L’Etat numérique et les droits humains », la profesora e investigadora Elise Degrave explora, a partir de casos que ha experimentado personalmente, los desafíos a afrontar y las soluciones prácticas a implementar para construir juntos la sociedad del mañana, basada en el equilibrio entre la eficiencia de lo digital y la protección de los derechos humanos. Las siguientes líneas resumen los aspectos más destacados de su análisis.
El Estado digital
Mientras que en algunas escuelas la inscripción de un niño solo puede realizarse por internet, que a las personas sin hogar (también llamadas « sin domicilio fijo ») se les propone escanear un código QR para acceder a un refugio nocturno, y que cada vez es más difícil contactar con una persona en los bancos o servicios públicos, ¿estamos ahora obligados, para (sobre)vivir, a llevar un teléfono inteligente siempre en la mano?
Por otro lado, cada vez más a menudo son los algoritmos, y no los agentes humanos del Estado, quienes toman decisiones cruciales para la vida cotidiana de las personas, como seleccionar a los migrantes en las puertas de Europa mediante un robot detector de mentiras, decidir quién debe ser sospechoso de fraude, determinar la escuela secundaria o la universidad de un niño, etc. ¿Son ahora los robots, en el sentido de procesos automatizados, los nuevos responsables de la toma de decisiones públicas?
La digitalización del Estado representa una amenaza para muchos derechos fundamentales protegidos por textos internacionales y constituciones nacionales.
Estas cuestiones afectan al funcionamiento del Estado digital a nivel mundial. Este concepto abarca dos aspectos. Por un lado, lo que ocurre en la parte visible de la administración — la interacción entre el ciudadano y un agente del Estado. Este agente está siendo reemplazado cada vez más por un sitio web. Como resultado, los ciudadanos deben realizar tareas administrativas — a menudo complejas — que antes eran gestionadas por profesionales capacitados. Ahora, los ciudadanos deben asumir toda la responsabilidad de los trámites que realizan para ejercer sus derechos. Esto plantea la cuestión de si el “servicio público” sigue siendo realmente un “servicio” prestado “al” público.
Por otro lado, está lo que sucede detrás del mostrador — el back office —, es decir, tras bastidores del Estado digital. Esto implica bases de datos en las que se nos exige proporcionar información personal al Estado desde el nacimiento hasta la muerte, abarcando todos los aspectos de nuestra vida (salud, familia, empleo, vivienda, vehículos, ocio, etc.). Estos datos circulan entre administraciones, lo cual puede ser muy útil — por ejemplo, para evitar declarar un cambio de domicilio varias veces, recibir una declaración de impuestos precompletada o acceder automáticamente a las prestaciones familiares sin necesidad de solicitarlas.
Sin embargo, algunas situaciones son más preocupantes. ¿Cómo no alarmarse al saber que, antes de ser condenada por el Tribunal Europeo de Derechos Humanos, Hungría tenía la intención de publicar los nombres y datos de contacto de las personas con retrasos en sus pagos fiscales en un sitio web público? Que en Bélgica, un proyecto de ley propuso transferir los datos de salud de los ciudadanos a las compañías de seguros para ajustar sus primas? Que en Estados Unidos, los usuarios de la aplicación de citas “Tinder” pueden verificar los antecedentes penales de sus parejas? En tales casos, es legítimo temer que nuestros datos puedan ser utilizados en nuestra contra.
Derechos Humanos
La digitalización del Estado no se trata solo de reemplazar impresoras… Representa una amenaza para muchos derechos fundamentales protegidos por textos internacionales y constituciones nacionales. Aquí, nos centraremos en la Constitución belga.
Las herramientas digitales utilizadas por el Estado afectan la privacidad y los datos personales (Artículo 22 de la Constitución). Cuando están mal configuradas o presentan fallos, pueden generar discriminación y exclusión social (Artículos 10 y 11 de la Constitución), así como impedir que las personas accedan a sus derechos, como las prestaciones por desempleo (Artículo 23 de la Constitución).
Estas herramientas también pueden vulnerar el derecho a la inclusión de las personas con discapacidad (Artículo 22ter de la Constitución) y el derecho a la educación (Artículo 24 de la Constitución). Finalmente, la transparencia administrativa es un derecho fundamental en Bélgica (Artículo 32 de la Constitución), el cual también está en riesgo cuando el Estado se niega a divulgar los algoritmos utilizados en el sector público, por ejemplo.
Ninguna ley exige el uso de una pantalla para ejercer los propios derechos.
¿Debemos resignarnos y considerar esto un destino inevitable? En absoluto. Si la tecnología digital fuera realmente indispensable, sería obligatoria. Sin embargo, ninguna ley exige el uso de una pantalla para ejercer los propios derechos. De hecho, la única herramienta impuesta por el Estado — al menos en Bélgica — es la tarjeta de identidad, cuyo uso está estrictamente regulado por la ley. Por lo tanto, la tecnología digital es simplemente una herramienta, como un secador de cabello o una bicicleta. Deberíamos tener la opción de utilizarla o no, y las herramientas digitales deben adaptarse a la sociedad, no al revés.
Por supuesto, la tecnología digital ofrece muchas ventajas, y el objetivo aquí no es abogar por un regreso a vivir en el bosque y comunicarnos mediante pergaminos o señales de humo. Sin embargo, no podemos ignorar el hecho de que la digitalización también conlleva numerosos inconvenientes. Quizás por ello los responsables políticos dudan en imponerla de manera categórica. En su lugar, prefieren utilizar la técnica del “nudge”, es decir, dar un empujón sutil para fomentar su adopción.
En la práctica, esto significa incentivar el uso de los servicios digitales haciendo la vida más difícil para quienes no los utilizan. Por ejemplo, a quienes declaran sus impuestos en línea se les concede un plazo adicional de dos semanas en comparación con aquellos que lo hacen en papel; las largas filas en los mostradores de atención pueden ir acompañadas de carteles promocionando el sitio web; los servicios telefónicos pueden redirigir a los usuarios a un mensaje automatizado que les informa que son el número 19 en la espera y que la web es muy eficiente, etc. A las personas se les presenta un hecho consumado y se les empuja sutilmente hacia las soluciones digitales.
Politizar lo digital
Si condujéramos automóviles sin seguir las normas de tránsito, un accidente sería inevitable tarde o temprano. Lo mismo ocurre con la digitalización, que actualmente avanza sin suficientes garantías, a pesar de representar amenazas para los derechos humanos.
Pedir una mayor regulación de la tecnología digital no significa oponerse a ella. Por el contrario, es un llamado a una digitalización sostenible que encuentre su lugar adecuado en la sociedad. Si la digitalización de la sociedad continúa sin un marco legal claro, inevitablemente conducirá al desastre, causando daños humanos y materiales que el Estado deberá reparar.
Los líderes políticos podrían ser responsabilizados e incluso verse obligados a dimitir, como ocurrió en los Países Bajos con la caída del gobierno neerlandés el 15 de enero de 2021 tras el escándalo de las prestaciones familiares, o en Australia después del escándalo de Robodebt. Un problema similar podría surgir pronto en Francia, donde el algoritmo utilizado por la CAF (Caisse nationale d’allocations familiales), considerado discriminatorio, está siendo impugnado ante los tribunales.
Por esta razón, la tecnología digital debe ser politizada. Los responsables políticos deben involucrarse plenamente en el tema en lugar de descartarlo como algo “demasiado técnico” o afirmar que regular estas herramientas lleva “demasiado tiempo”, como suele escucharse. Esto es de interés para todos, ya que la ley es una herramienta que debe utilizarse de manera proactiva para prevenir problemas en lugar de reaccionar ante ellos. En otras palabras, establecer un marco legal adecuado para la tecnología digital en una sociedad democrática garantizará su desarrollo armonioso en el futuro, minimizando los litigios y las responsabilidades políticas.
Para lograrlo, cada herramienta digital debería someterse a una “prueba de choque”, similar a los automóviles, que consta de tres etapas.
Primero, el “por qué”. ¿Por qué debería implementarse una herramienta en particular? Es importante ir más allá de los estereotipos como “lo digital ahorra dinero” o “es mejor para el medio ambiente”. Estas afirmaciones deben ser evaluadas cuidadosamente y sustentadas objetivamente en cada caso. Desde el punto de vista económico, deben considerarse los costos de implementación, actualizaciones, corrección de errores y ciberseguridad. Ambientalmente, la llamada “desmaterialización” digital es, en realidad, altamente material, dada la cantidad de recursos contaminantes y de alto consumo energético necesarios para el funcionamiento de los dispositivos.
El funcionamiento interno del Estado está marcado por una opacidad significativa.
Actualmente, muchos aspectos siguen sin estar claros. Por ejemplo, ¿por qué se están digitalizando las agendas escolares? A menudo, la respuesta es: “todo el mundo lo está haciendo” o “un consultor lo recomendó y pensamos que era la tendencia”. Esta falta de reflexión profunda puede tener consecuencias imprevistas, como que los niños se distraigan con notificaciones de Instagram en lugar de concentrarse en sus agendas digitales, o que los padres tengan dificultades para gestionar el tiempo de pantalla de sus hijos.
En segundo lugar, el “cómo”. ¿Qué herramienta debería implementarse y cuáles son sus ventajas y desventajas? Dado que no se mata una mosca con un bazuca, es fundamental seleccionar la herramienta más adecuada para el objetivo previsto—este es el principio de proporcionalidad. ¿Realmente la herramienta cumple con el propósito deseado? ¿Evita daños colaterales que podrían haberse prevenido con otro enfoque? Por ejemplo, las aplicaciones de rastreo de la COVID-19, como “Alerte Covid,” implementadas en muchos países durante la pandemia, fueron objeto de críticas debido a que su efectividad en la lucha contra el virus no estaba demostrada, mientras que suponían riesgos para las libertades individuales, en particular la privacidad.
En tercer lugar, la ley. La digitalización representa lo que se conoce como una “interferencia” en los derechos fundamentales, lo que significa que impacta dichos derechos, como se mencionó anteriormente. Por ejemplo, transferir la nueva dirección de una persona de un departamento gubernamental a otro para garantizar el correcto envío de documentos administrativos constituye una interferencia en su derecho a la privacidad.
Pero en este caso, evidentemente, no está prohibido. Si lo estuviera, impediría, entre otras cosas, cualquier uso de los datos de los ciudadanos, lo cual no es deseable, ya que aumentaría considerablemente la carga administrativa de todas las partes involucradas. Sin embargo, para que dichas afectaciones a los derechos fundamentales sean admisibles en un Estado de derecho, es necesaria una ley que las regule.
Este marco legal actúa como una garantía para los ciudadanos, asegurando que cualquier vulneración de sus derechos fundamentales cumpla con los requisitos legales, haya sido debatida en el parlamento, esté claramente definida en un texto legal accesible y pueda ser impugnada legalmente si fuera necesario. El Tribunal Constitucional, por ejemplo, puede anular leyes que vulneren injustificadamente los derechos fundamentales.
Este enfoque legislativo proporciona un marco sólido para la implementación de herramientas digitales, al tiempo que fortalece la democracia al fomentar el debate y arrojar luz sobre los principios fundamentales de la sociedad del futuro.
Soluciones "llave en mano"
A esta metodología legislativa se suma el hecho de que, desde ahora, pueden implementarse soluciones "llave en mano".
En lo que respecta al front office, mencionado anteriormente, este se ve particularmente afectado por la evolución hacia una sociedad "completamente digital" y "sin contacto". Ante esta realidad y los problemas que genera en la población, se aboga, entre otras cosas, por la inclusión de un nuevo derecho fundamental en las constituciones nacionales: el derecho a "no utilizar lo digital ". Este derecho a una vida "fuera de línea" es una reivindicación cada vez más extendida, en Bélgica pero también en Europa.
En cuanto al back office, los entresijos del Estado están marcados por una gran opacidad. Es muy difícil saber cómo se utilizan nuestros datos personales y cómo funcionan las herramientas que toman decisiones en lugar de los seres humanos.
Therefore, there is a strong push for greater transparency regarding the algorithms used by the State to make important decisions affecting people’s daily lives. More transparency should be mandated, particularly by requiring the State to disclose an “identity card” for each algorithm, detailing its name, the name of its creators, its intended purpose, the administrations in which it is used, and more.
Como se observa al final de este análisis, lo digital, con sus fortalezas y debilidades, nos brinda la oportunidad de diseñar una sociedad democrática equilibrada, responsable y equitativa. Juntos.
