L'anxiété de la liberté et son transfert à l'intelligence artificielle
L'individu, écrivait Fyodor Dostoïevski, “est tourmenté par aucune plus grande anxiété que celle de trouver rapidement quelqu'un à qui il peut remettre ce don de liberté avec lequel la créature maudite est née”.
Recalibrant la vision de Dostoïevski, ma conjecture est que – à notre époque – l'anxiété provoquée par la peur dont les gens veulent se débarrasser est de plus en plus transférée, ou plus précisément externalisée, aux algorithmes d'apprentissage automatique et aux dispositifs intelligents.
Frustré et déçu quotidiennement par la surcharge de données, l'individu se réfugie de plus en plus dans le confort complice de l'automatisation numérique.
Sans aucun doute, ce qu'il y a de plus redoutable, c'est l'omniprésence des peurs entourant l'intelligence artificielle automatisée : c'est comme si les risques menaçants et les anxiétés terrifiantes pouvaient s'infiltrer par n'importe quel recoin de nos nouveaux lieux de travail et foyers technologiques, ou surgir de notre engagement avec nos dispositifs numériques.
La peur de l'IA en tant que destructeur d'emplois et au-delà
Des craintes que l'IA soit un destructeur d'emplois. Des inquiétudes menaçantes sur la surveillance numérique et l'érosion de la vie privée. Des préoccupations croissantes selon lesquelles les algorithmes accentuent les divisions sociales et alimentent les inégalités raciales et de genre. Des vulnérabilités personnelles croissantes face à la culture des médias sociaux.
Aujourd'hui, nous vivons dans un état de surcharge chronique.
Peur paralysante du militarisation des drones et des robots tueurs. Ensuite, il y a cette peur la plus terrifiante que l'IA ne mette en danger non seulement nos lieux de travail, nos foyers et nos familles, mais qu'elle menace l'existence même de l'humanité.
Aujourd'hui, la culture des algorithmes, des applications et de l'automatisation a atteint un stade d'évolution où elle s'est dissoute dans le flux sanguin de la société. Un exemple clair de cela est le 'double-bind' de vivre dans un monde de surcharge d'information.
L'avènement des technologies numériques a été, en partie, présenté comme une solution aux problèmes liés à notre monde pressé et agité. Les décisions instantanées et les connexions sociales immédiates étaient le mode par défaut promis d'une numérisation avancée cherchant à contrebalancer notre enchevêtrement serré dans les relations professionnelles et personnelles où les gens étaient toujours "pauvres en temps". Tout ce qui devait être fait pouvait être accompli par la délégation du choix personnel aux dispositifs intelligents.
Read More
Cependant, il s'est avéré qu'il y avait un prix à payer pour cette éthique de l'automatisation. Plus l'agence personnelle était externalisée aux machines intelligentes et plus l'enchevêtrement dans les réseaux sociaux engendrait des connexions de plus en plus vastes, plus les gens se retrouvaient surchargés et accablés par des rappels numériques, des notifications et des messages sans fin.
L'épée à double tranchant de l'automatisation : Du soulagement à la surcharge
Pire encore, la montée en puissance de la technologie dans notre vie quotidienne a dévoré le temps, tant personnellement que professionnellement. Comme sorti de nulle part, un temps supplémentaire était maintenant nécessaire pour rechercher les derniers gadgets technologiques ou télécharger de nouveaux logiciels ; des morceaux de temps continus étaient demandés pour publier des mises à jour de statut, sans parler des clics interminables sur 'j'aime', 'retweeter', 'accepter' ou 'supprimer'.
C'est ici que le pouvoir séduisant des algorithmes prédictifs entre en jeu, promettant d'aider les gens à faire face aux exigences de temps surchargées de ce monde effréné. Tout aussi important, promettant de rendre aux gens un certain contrôle sur l'avenir.
Cependant, plus souvent qu'on ne le souhaiterait, ce voyage vers l'automatisation s'est révélé être un acte d'auto-effacement, impliquant une anxiété invalidante. Il s'avère que la vitesse des analyses prédictives laisse en grande partie les gens avec le sentiment d'avoir été abandonnés à leur sort.
La culture de l'automatisation : Un abri ou un piège ?
Frustré et déçu quotidiennement par la surcharge de données, l'individu se réfugie de plus en plus dans le confort complice de l'automatisation numérique. Les gens trouvent un abri contre la « fatigue des données » dans des outils comme Buffer ou HootSuite pour automatiser leurs publications sur les réseaux sociaux, ou Roboform, qui remplit automatiquement des formulaires en ligne, ou des services d'abonnement comme Trunk Club, Stitch Fix ou Bombfell, qui achètent automatiquement des vêtements sélectionnés "juste pour vous".
La culture high-tech d'aujourd'hui, conditionnée par des algorithmes intelligents, réitère ce que chacun de nous absorbe, soit par conception, soit par défaut, de nos propres circonstances et affaires. Elle présente le monde comme une série de calculs informatiques et de données quantifiées, avec des quêtes de vie encodées dans des algorithmes d'apprentissage automatique et marquées par les conditions sociales et techniques d'externalisation, de délocalisation, de fragmentation, de discontinuité et d'inconséquence.
De plus en plus de gens ont l'impression de se noyer sous les courriels et les SMS, submergés par les publications sur les réseaux sociaux et consumés par des listes de tâches numériques.
Avec l'avènement de ce que j'ai appelé la "modernité algorithmique", les décisions quotidiennes sont régulièrement externalisées aux machines intelligentes et les exigences de réflexion sur les décisions disparaissent, ne nécessitant que rarement une attention fugace ou un consentement par un simple clic de souris.
Les problèmes nécessitant une attention peuvent survenir en permanence mais disparaissent une fois externalisés à l'intelligence automatisée des machines, pour être immédiatement remplacés par le cycle suivant d'externalisation de la prise de décision. Dans cet enchevêtrement complexe d'humains et de machines, la capacité limitée des individus à exercer leur autonomie devient de plus en plus fragile à mesure que les algorithmes apprennent, composent, génèrent et autorisent des actions basées sur les attributs informationnels des personnes, des données et d'autres algorithmes.
L'illusion de l'externalisation : Le mantra consumériste
Information : nous vivons aujourd'hui dans un état de surcharge chronique. L'anxiété générée et l'incertitude redoutable de l'ère de l'IA rendent la tâche de gérer l'étendue, le stockage et la récupération de l'information en réseau numérique particulièrement décourageante et donc un terrain particulièrement riche pour de multiples peurs.
En 2023, le monde a généré plus de 328 millions de téraoctets de données chaque jour. Les technologies de la vitesse d'aujourd'hui provoquent un dérèglement des sens, tandis que les gens se précipitent pour "réadapter" l'information à leur vie et les mises à jour de données à leurs activités quotidiennes. De plus en plus de gens ont l'impression de se noyer sous les courriels et les SMS, submergés par les publications sur les réseaux sociaux et consumés par des listes de tâches numériques.
Les pressentiments de déluge numérique et les fantasmes d'évasion se nourrissent et se renforcent mutuellement.
Ces stress numériques ont un impact direct sur la sphère de la vie personnelle. Mais dans certaines régions, cette pléthore d'informations est également réappropriée par des stratagèmes publicitaires astucieux et des industries de consommation offrant une compensation sur le marché pour le dilemme vexant de vivre une vie "pressée par le temps". Les angoisses d'aujourd'hui liées à la surcharge d'informations ne nécessitent pas de limiter les données (bien que les marchés promouvant des sabbats numériques abondent), mais de meilleurs systèmes pour organiser les données ainsi que sa propre vie en tant que produit de données.
Le contenu des derniers livres les plus vendus fournit un indicateur de la vision consumériste généralisée selon laquelle on peut surmonter les peurs de la surcharge d'informations à moindre coût. The Organized Mind: Thinking Straight in the Age of Information Overload; Algorithms to Live By: The Computer Science of Human Decisions; Overcoming Information Overload; Competing in the Age of AI: Strategy and Leadership when Algorithms and Networks Run the World; Embrace: In Pursuit of Happiness through Artificial Intelligence; et AI by Design: A Plan for Living with Artificial Intelligence.
Des collections de plans d'action de plus en plus instructifs, déclaratifs, personnalisés, à la mode et coûteux destinés à des identités assiégées à l'ère numérique prolifèrent. Les pressentiments de déluge numérique et les fantasmes d'évasion se nourrissent et se renforcent mutuellement.
Dans tout cela, l'astuce consiste à transférer la charge de la gestion des données du niveau individuel à celui des machines intelligentes. Ce qui est préconisé ici, c'est l'externalisation ou la délocalisation des données vers des processus d'automatisation. Ce qui est souhaitable, c'est une vie numériquement redistribuée, où la gestion des données est externalisée à l'intelligence automatisée des machines, qui réorganise les relations économiques, sociales, culturelles et matérielles entre les personnes ainsi qu'entre l'individu et la société en général.
La croyance que l'on peut échapper aux peurs, pressentiments et incertitudes de la surcharge d'informations en externalisant la prise de décisions personnelles aux machines intelligentes est, bien sûr, une illusion. Mais c'est le genre de fantasme qui sous-tend le mantra consumériste selon lequel de vastes avantages reviennent à ceux qui vivent des vies externalisées. Peut-être y a-t-il une touche de magie dans le culte des gestionnaires de tâches propulsés par l'IA, pour lesquels le déploiement de logiciels automatisés équivaut à la disparition des tâches quotidiennes répétitives et ennuyeuses.
Le mythe de la vie automatisée : Une véritable évasion ?
Les programmes de gestion des données qui offrent des automatisations intégrées, comme Hive, HubSpot et Zappia, servent à rationaliser les flux de travail pour les tâches quotidiennes récurrentes. Les plateformes telles que Mailchimp mettent l'accent sur l'impératif d'auto-automatisation et facilitent de nouveaux régimes de réponse à la vague continue de messages électroniques quotidiens.
L'éthique de l'auto-automatisation est portée à un niveau supérieur avec Duet AI de Google, qui, une fois la fonction 'prendre des notes pour moi' activée, peut résumer et exécuter des éléments lors de réunions en ligne, fournir des résumés en cours de réunion lorsque les personnes sont en retard pour des appels d'affaires, ou passer en revue tous les détails que l'utilisateur pourrait avoir manqué avec l'aide d'un chatbot de Google.
Dans Algorithms of Anxiety, je soutiens que les gens se sentent de plus en plus accablés et souvent persécutés dans la culture de l'IA d'aujourd'hui.
La perfection des modes de vie automatisés a été conceptualisée à l'image de l'harmonie de type Singularité, dans laquelle l'intégration de l'agence et des algorithmes est guidée par le principe de stabilité et d'ordre. Le peur, sans aucun doute, est apparue comme un outil de construction de l'externalisation numérique utilisé dans la fabrication et le maintien de modes de vie automatisés. Cette externalisation constante et implacable des tâches vers des processus d'automatisation ne concerne pas la gestion des données, mais le déplacement du fardeau de la gestion des données pour faire place à l'attraction inéluctable d'autres possibilités et potentiels alternatifs qui façonnent la grande révolution numérique de notre époque.
La vie automatisée privilégie le potentiel exaltant et la vitesse de l'externalisation ; aussi la légèreté et l'absence d'engagements ou d'obligations que l'on espère que l'externalisation apportera. L'automatisation de la vie quotidienne permet d'adapter la vie à une exploration sans fin et à une expérimentation endémique avec la numérisation (des médias sociaux à ChatGPT en passant par le Metaverse) alors que les gens s'inquiètent de manquer des opportunités importantes.
En résumé, la surcharge d'informations d'aujourd'hui et les peurs qui l'accompagnent de s'auto-immobiliser peuvent être externalisées au logiciel automatisé de demain pour une vie améliorée. Mais une telle orientation est enracinée dans la peur de manquer quelque chose, la frustration que des libertés possibles nous aient été refusées. Vivre à l'ère numérique, assiégé par un menu interminable de choix, signifie faire face à des peurs angoissantes et à des incertitudes alarmantes de constamment manquer à l'appel.
Le coût social et personnel de l'automatisation
De plus en plus, les gens sont profondément préoccupés par l'échelle, l'étendue et les synergies des grandes entreprises technologiques. Ils peuvent ressentir du ressentiment et de l'indignation face aux façons dont leurs données personnelles sont collectées, stockées et transformées en connaissances précieuses sur les marchés des futurs comportementaux, où les grandes entreprises technologiques et d'autres entreprises numériques en tirent profit. Ils peuvent également être anxieux quant à la manière dont l'ascension des propriétaires de plateformes numériques et des fournisseurs de services de réseau se traduit par des concentrations croissantes de pouvoir économique, social et politique.
En même temps, cependant, il y a un sentiment palpable que la vie automatisée est là et, dans une large mesure, là pour rester. Les gens vivent de plus en plus, peut-être plus souvent qu'autrement, comme si la délégation des décisions personnelles et des tâches quotidiennes aux agents artificiels était le seul moyen de faire face à ce monde effréné. Parfois, peut-être de plus en plus souvent, il semble qu'il n'y ait pas de « dehors » par rapport aux machines intelligentes et aux modèles computationnels automatisés qui imprègnent nos vies.
Mais sans aucun doute, notre monde nouveau et courageux de l'IA change la dynamique de la vie sociale : la délégation des décisions personnelles aux machines intelligentes pourrait souvent aboutir à de nouvelles opportunités et bénéfices, mais ces délégations peuvent également être un moyen de réduire nos intérêts ou de contraindre nos désirs. Alors, la question pressante est la suivante : pourquoi les gens supposent-ils qu'ils doivent continuer à automatiser leur vie pour mener une vie épanouie ?
L'influence des algorithmes prédictifs sur l'autonomie personnelle
Dans Algorithms of Anxiety, je soutiens que les gens se sentent de plus en plus accablés et souvent persécutés dans la culture de l'IA d'aujourd'hui parce que, grâce à l'essor des technologies émergentes, ils passent une grande partie de leur temps à être informés par des algorithmes prédictifs de ce qu'ils sont censés vraiment vouloir.
Sans aucun doute, il est extrêmement difficile aujourd'hui de savoir ce que l'on pourrait vouloir dans la vie étant donné l'influence de l'analyse prédictive. Les prédictions pondérées et les probabilités calculées des algorithmes servent de plus en plus de substituts à l'agence individuelle et restreignent la capacité des personnes à agir de manière autonome dans le monde. Face à la surcharge d'informations, les promesses de l'analyse prédictive pour évincer les mentalités de doute, d'incertitude et d'ambivalence qui génèrent la peur ont été sévèrement gonflées culturellement.
Convertir le monde entier en une grande machine de prédiction peut servir comme un puissant moyen de nier la peur de la surcharge d'informations et la culture des big data, mais nous devons d'urgence examiner les coûts sociaux et personnels de cette éthique de l'automatisation et nous efforcer de démontrer – et de rendre réel – le contraire.
Reproduit avec la permission de Polity Press. Tous droits réservés.
