Dans l’ouvrage « L’État numérique et les droits humains », la professeure et chercheuse Elise Degrave explore, au départ de cas qu’elle a personnellement vécus, les défis à relever et les solutions pratiques à mettre en place pour construire, ensemble, la société de demain, fondée sur l’équilibre entre l’efficacité du numérique et les protections des droits humains. Les lignes qui suivent reprennent les traits saillants de son analyse.
L’État numérique
Alors que dans certaines écoles l’inscription d’un enfant ne peut se faire que par internet, que les personnes itinérantes (appelées aussi les « sans domicile fixe ») se voient proposer de scanner un QR code pour accéder à un abri de nuit, qu’il est de plus en plus difficile de contacter un être humain dans les banques ou les services publics, est-on désormais contraints, pour (sur)vivre, d’avoir un smartphone greffé sur la main ?
Par ailleurs, de plus en plus souvent, ce sont des algorithmes, et non plus des agents humains de l’État, qui prennent des décisions cruciales pour le quotidien des personnes, comme sélectionner les migrants aux portes de l’Europe via un robot détecteur de mensonges, décider quelle personne doit être suspectée de fraude, déterminer l’école secondaire d’un enfant ou son université, etc. Les robots, au sens de processus automatisés, sont-ils désormais les nouveaux décideurs publics ?
Le phénomène de numérisation de l’État menace de nombreux droits fondamentaux protégés par des textes internationaux et des constitutions nationales.
Ces questions touchent au fonctionnement de l’État numérique, dans le monde entier. Ce concept vise deux choses. Il y a, d’une part, ce qui se passe devant le guichet d’une administration, le front office, c’est-à-dire l’interaction entre le citoyen et un agent de l’État. Cet agent a tendance à être remplacé par un site internet. Cela a pour conséquence que l’on demande au citoyen de faire lui-même le travail administratif – souvent complexe- qui était fait jadis par cet agent dont c’était le métier et qui était formé pour cela. Le citoyen doit donc désormais assumer l’entière responsabilité des démarches qu’il effectue pour obtenir ses droits. De là, on peut se demander si le « service public » est encore un « service » « au » public.
D’autre part, il y a ce qu’il se passe derrière le guichet, le back office, dans les coulisses de l’État numérique. Il y a là les bases de données dans lesquelles sont enregistrées les informations que nous sommes obligés de donner à l’Etat de notre naissance à notre mort et qui concernent tous les aspects de notre vie (santé, famille, emploi, maison, voiture, loisirs, etc.). Ces circulent entre les administrations, ce qui peut être très pratique par exemple pour éviter de devoir signaler dix fois un récent changement d’adresse, pour obtenir une déclaration fiscale pré-encodée ou pour recevoir les allocations familiales automatiquement, sans devoir les réclamer.
Mais il y a des cas plus interpellant. Comment ne pas être inquiet en apprenant, par exemple, qu’avant d’être condamnée par la Cour européenne des droits de l’homme, la Hongrie entendait publier sur un site web le nom et les coordonnées de personnes en retard de paiement d’impôt ? Qu’en Belgique, un avant-projet de loi prévoyait le transfert des données de santé des citoyens aux sociétés d’assurance pour adapter leurs primes ? Qu’aux États-Unis, les utilisateurs de l’application de rencontre « Tinder » peuvent vérifier le casier judiciaire de leur « match »? Dans ces cas, on peut légitimement craindre que nos données se retournent contre nous.
Droits Humains
Ainsi donc, le phénomène de numérisation de l’État ne consiste pas seulement à changer les imprimantes … Il menace de nombreux droits fondamentaux protégés par des textes internationaux et des constitutions nationales. On se concentre ici sur la Constitution belge.
Les outils numériques utilisés par l’État touchent à la vie privée et aux données à caractère personnel (article 22 de la Constitution). Lorsqu’ils sont mal paramétrés ou ne fonctionnent pas correctement, ils peuvent créer des discriminations et des exclusions sociales (articles 10 et 11 de la Constitution), tout comme ils peuvent empêcher des personnes d’accéder à leurs droits, comme une allocation de chômage (article 23 de la Constitution).
Ces outils peuvent également bafouer le droit à l’inclusion des personnes handicapées (article 22ter de la Constitution), le droit à l’éducation (article 24 de la Constitution). Enfin, la transparence administrative est, en Belgique, un droit fondamental (article 32 de la Constitution) lui aussi en péril lorsque l’État refuse de donner la copie des algorithmes du secteur public, par exemple.
Aucune loi n’impose de passer par un écran pour exercer ses droits.
Doit-on se résigner et considérer qu’il s’agit d’une fatalité ? Absolument pas. S’il était vraiment incontournable, le numérique serait obligatoire. Or, aucune loi n’impose de passer par un écran pour exercer ses droits. D’ailleurs, le seul outil imposé par l’État, en Belgique du moins, c’est la carte d’identité, dont l’utilisation est précisément balisée par la loi. Le numérique n’est donc qu’un outil, comme un sèche-cheveux ou un vélo. On doit pouvoir choisir de l’utiliser, ou pas, et ce sont les outils numériques qui doivent être adaptés à la société, et non la société qui devrait s’y soumettre.
Certes, le numérique présente beaucoup d’avantages, et il n’est d’ailleurs pas question ici de plaider pour une solution consistant à aller vivre dans la forêt en communiquant par des parchemins ou des calumets. Mais on ne peut ignorer que le numérique présente aussi de nombreux défauts. D’ailleurs, c’est peut-être la raison pour laquelle les responsables politiques n’osent pas l’imposer. Ils préfèrent recourir à la technique du « nudge », c’est-à-dire du « coup de pouce », pour en favoriser le déploiement.
En l’occurrence, il s’agit de pousser les gens à utiliser le numérique en rendant plus difficile la vie des personnes qui ne l’utilisent pas. Par exemple, on va donner deux semaines en plus aux personnes qui remplissent leur déclaration fiscale en ligne plutôt que sur papier, on va imposer des heures de files aux guichets en plaçant des poster sur les murs qui rappellent l’existence d’un site internet, on va mettre en place un service téléphonique qui aboutit à un robot nous expliquant qu’on est 19è dans la file d’attente et que le site internet est très bien fait, etc. Les gens sont mis devant le fait accompli et poussés à utiliser le numérique.
Politiser le numérique
Si on roulait en voiture sans devoir respecter le Code de la route, tôt ou tard, ce serait le crash. Il en va de même pour le numérique dont l’expansion se fait actuellement sans balise suffisante, alors qu’elle menace les droits humains.
Notons que réclamer davantage de régulation du numérique, ce n’est pas s’opposer au numérique. C’est, au contraire, plaider pour une numérisation durable dans le temps, qui est mise à sa juste place dans la société. Si on laisse aller la numérisation de la société sans cadre légal clair, elle ira droit dans le mur, en créant des dégâts humains et matériels que l’État devra réparer.
Read More
Des responsables politiques seront pointés du doigt, qui pourraient être contraints de démissionner. C’est ce qui s’est produit par exemple aux Pays-Bas, avec la chute du gouvernement néerlandais le 15 janvier 2021, suite au scandale des allocations familiales, ou en Australie, après le scandale Robodept. Le même problème pourrait bientôt éclater en France car l’algorithme de la CAF, la Caisse nationale d’allocations familiales, jugé discriminatoire, fait actuellement l’objet d’un recours en justice.
C’est pourquoi, il faut politiser le numérique. En effet, il importe que les responsables politiques se réveillent et se saisissent pleinement du sujet, sans considérer que c’est « trop technique » ou que la régulation de ces outils prend « trop de temps », comme on l’entend parfois. Il y va de l’intérêt de chacun car le droit est un outil que l’on mobilise avant, pour éviter les problèmes après. En d’autres termes, fixer le cadre légal adapté aux enjeux du numérique une société démocratique, c’est permettre son développement harmonieux à l’avenir et limiter les risques de recours en justice et de mises en cause politiques.
Pour ce faire, chaque outil numérique doit être soumis à un « crash test », comme les voitures, qui se fait en trois étapes.
Premièrement, le « pourquoi ». Pourquoi souhaite-t-on mettre en place tel l’outil ? Il faut réfléchir plus loin que les stéréotypes du type « le numérique fait faire des économies », « il est meilleur pour l’environnement ». Au cas par cas, ces affirmations doivent être minutieusement évaluées et publiquement objectivées. Sur le plan économique, le coût des outils, de leur mise en place, des mises à jour, de la réparation des « bug » et des « cyberattaques » préoccupent. Quant à l’environnement, la « dématérialisation » numérique est, au contraire, très matérialisée si l’on en juge aux ressources nécessaires pour le fonctionnement des appareils, qui sont énergivores et polluants.
Les coulisses de l’État sont marquées par une grande opacité.
Or, pour le moment, beaucoup de flou encadrent ces aspects. Par exemple, dans les écoles, on numérise le journal de classe. Pourquoi ? En général, la réponse est « cela se fait partout », « un consultant est venu présenter l’outil et on s’est dit que c’était dans l’ère du temps ». Et on risque alors de constater qu’il n’y a eu que peu voire pas de réflexion approfondie sur l’objectif poursuivi et les conséquences de ce dispositif, comme le fait que l’enfant pourrait avoir tendance à consulter ses notifications Instagram plutôt que son journal de classe et que cela n’aide pas les parents à baliser les usages des écrans.
Deuxièmement, le « comment ». Quel outil met-on en place, avec quels avantages et quels inconvénients ? Puisqu’on ne tue pas une mouche avec un bazooka, il faut veiller à mettre en place l’outil le mieux adapté à l’objectif poursuivi. C’est le principe de proportionnalité. Est-ce que l’outil permet effectivement d’atteindre l’objectif visé ? Et est-ce que l’outil ne crée par des dégâts collatéraux que l’on pourrait éviter en procédant autrement ? Par exemple, les applications de traçage du Covid, du type « Alerte Covid », qui ont été déployées dans de nombreux pays pendant la crise sanitaire, ont fait l’objet de critiques car il n’était pas démontré que ces applications permettaient d’atteindre l’objectif de lutter contre le virus, alors qu’elles créaient des dégâts pour les libertés citoyennes, notamment en menaçant la vie privée des personnes.
Troisièmement, la loi. Le numérique constitue ce que l’on appelle une « ingérence » dans les droits fondamentaux, c’est-à-dire qu’il porte atteinte à ces droits, comme on l’a dit plus haut. Par exemple, transférer la nouvelle adresse d’une personne d’un ministère à un autre pour que tous les documents administratifs soient envoyés automatiquement à la nouvelle adresse, est une ingérence dans le droit à la vie privée de cette personne.
Mais dans ce cas, ce n’est évidemment pas interdit. Si ça l’était, cela empêcherait notamment toute utilisation des données des citoyens, ce qui n’est pas souhaitable car cela alourdirait considérablement la charge administrative des uns et des autres. Mais pour être admissibles dans un Etat de droit, il faut une loi qui organise de telles atteintes aux droits fondamentaux.
Il s’agit là d’une garantie pour le citoyen, qui a le droit d’être rassuré quant au fait que les atteintes à ses droits fondamentaux respectent les exigences juridiques car elles ont notamment été débattues par un parlement, qu’elles sont balisées noir sur blanc dans un texte de loi accessible à chacune et chacun et qu’en cas de problème, ces mesures peuvent être attaquées en justice, notamment devant la Cour constitutionnelle qui peut annuler les lois portant atteinte de manière injustifiée aux droits fondamentaux.
Cette méthodologie législative permet d’encadrer adéquatement le déploiement du numérique et, dans le même temps, de vivifier la démocratie, en mettant en débat et en lumière les piliers fondamentaux de la société de demain.
Des solutions « clé sur porte »
A cette méthodologie législative s’ajoute le fait que, dès à présent, des solutions « clé sur porte » peuvent être mises en place.
S’agissant du front office dont il a été question plus haut, celui-ci est particulièrement marqué par l’évolution vers la société du « tout numérique » et du « sans contact ». Face à ce constat et aux problèmes qu’il engendre parmi la population, on plaide notamment pour l’insertion d’un nouveau droit fondamental dans les constitutions nationales, le droit « de ne pas utiliser le numérique ». Ce droit à une vie « hors ligne » est une revendication de plus en plus large, en Belgique mais aussi en Europe.
Quant au back office, les coulisses de l’État sont marquées par une grande opacité. Il est très difficile de savoir comment sont utilisées nos données à caractère personnel et comment fonctionnent les outils qui prennent des décisions à la place des humains.
Dès lors, on soutient notamment l’importance de faire la lumière sur les algorithmes utilisés par l’État pour prendre des décisions importantes pour le quotidien des personnes. Davantage de transparence doit être organisée, notamment en imposant à l’État de publier la carte d’identité de ses algorithmes, leur nom, le nom de leurs créateurs, l’objectif qu’ils poursuivent, les administrations dans lesquels ils sont utilisés, etc.
Ainsi qu’on le voit au terme de ces développements, le numérique, entre ses forces et ses faiblesses, nous offre une chance de dessiner une société démocratique équilibrée, responsable et équitable. Ensemble.
